The nightmare videos of childrens' YouTube — and what's wrong with the internet today | James Bridle

Çeviri: Dilan Bayındır Gözden geçirme: Cihan Ekmekçi

I'm James.

Benim adım James.

I'm a writer and artist,

Yazar ve sanatçıyım

and I make work about technology.

ve teknoloji alanında çalışıyorum.

I do things like draw life-size outlines of military drones

Dünyanın farklı şehirlerinde

askeri dronların tam boyutlu taslaklarını çizmek gibi işler yapıyorum;

in city streets around the world,

so that people can start to think and get their heads around

görmesi ve düşünmesi oldukça zor olan bu teknolojileri

these really quite hard-to-see and hard-to-think-about technologies.

insanlar düşünmeye ve anlamaya başlasın diye.

I make things like neural networks that predict the results of elections

Seçim sonuçlarını hava durumuna dayanarak tahmin eden

based on weather reports,

nöronal devreler gibi şeyler yapıyorum,

because I'm intrigued about

çünkü bu garip yeni teknolojilerin

what the actual possibilities of these weird new technologies are.

asıl potansiyellerinin ne olduğu konusuna çok merak duyuyorum.

Last year, I built my own self-driving car.

Geçen yıl, kendi kendine giden arabamı yaptım.

But because I don't really trust technology,

Ama teknolojiye pek güvenmediğim için

I also designed a trap for it.

ona bir tuzak da hazırladım.

(Laughter)

(Kahkaha)

And I do these things mostly because I find them completely fascinating,

Bu şeyleri yapmamın asıl nedeni onları fazlasıyla ilginç bulmam

but also because I think when we talk about technology,

ama öyle düşünüyorum ki teknolojiden bahsettiğimizde

we're largely talking about ourselves

büyük oranda kendimizden

and the way that we understand the world.

ve dünyayı anlayış şeklimizden bahsediyoruz.

So here's a story about technology.

İşte teknolojiyle ilgili bir hikaye.

This is a "surprise egg" video.

Bu bir "sürpriz yumurta" videosu.

It's basically a video of someone opening up loads of chocolate eggs

Birisinin bir sürü çikolotadan yumurtayı açıp

and showing the toys inside to the viewer.

içlerindeki oyuncakları izleyiciye gösterdiği bir video.

That's it. That's all it does for seven long minutes.

Bu kadar. Yedi uzun dakika boyunca olan tek şey bu.

And I want you to notice two things about this.

Bununla ilgili iki şeyi fark etmenizi istiyorum.

First of all, this video has 30 million views.

İlk olarak, bu videonun 30 milyon görüntülenmesi var.

(Laughter)

(Kahkaha)

And the other thing is,

Diğer şey şu,

it comes from a channel that has 6.3 million subscribers,

6,3 milyon abonesi, toplamda sekiz milyar görüntülenmesi olan

that has a total of eight billion views,

bir kanaldan geliyor

and it's all just more videos like this --

ve kanaldaki bütün videolar böyle --

30 million people watching a guy opening up these eggs.

adamın birinin bu yumurtaları açmasını izleyen 30 milyon insan.

It sounds pretty weird, but if you search for "surprise eggs" on YouTube,

Kulağa garip geliyor ama Youtube'da "sürpriz yumurta"yı aratırsanız

it'll tell you there's 10 million of these videos,

size bu videolardan 10 milyon tane olduğunu söyler

and I think that's an undercount.

ve bence bu sayı düşük.

I think there's way, way more of these.

Bence bu videolardan çok daha fazla var.

If you keep searching, they're endless.

Eğer aramaya devam ederseniz sonu gelmez.

There's millions and millions of these videos

Marka ve ürünlere ilişkin giderek artan abartı kombinasyonlarda

in increasingly baroque combinations of brands and materials,

bu videolardan milyonlarca var

and there's more and more of them being uploaded every single day.

ve her geçen gün daha da fazlası yükleniyor.

Like, this is a strange world. Right?

Garip bir dünya.

But the thing is, it's not adults who are watching these videos.

Ama asıl önemli kısım şu, bu videoları izleyenler yetişkinler değil.

It's kids, small children.

Çocuklar, küçük çocuklar.

These videos are like crack for little kids.

Bu videolar sanki çocuklara özel uyuşturucu.

There's something about the repetition,

Tekrarlanma ile ilgili bir şey var,

the constant little dopamine hit of the reveal,

onları tamamen bağımlı yapan, yumurtadan çıkanın

that completely hooks them in.

sabit küçük dopamin vuruşlarıyla ilgili.

And little kids watch these videos over and over and over again,

Küçük çocuklar bu videoları tekrar tekrar izliyorlar

and they do it for hours and hours and hours.

ve bunu saatlerce yapıyorlar.

And if you try and take the screen away from them,

Ekranı onlardan uzaklaştırmaya çalışırsanız

they'll scream and scream and scream.

durmadan bağıracaklardır.

If you don't believe me --

Eğer bana inanmıyorsanız

and I've already seen people in the audience nodding --

-ki seyircilerden başıyla onaylayanları gördüm-

if you don't believe me, find someone with small children and ask them,

inanmıyorsanız küçük çocuğu olan birini bulup sorun,

and they'll know about the surprise egg videos.

sürpriz yumurta videolarını bileceklerdir.

So this is where we start.

İşte burada başlıyoruz.

It's 2018, and someone, or lots of people,

Yıl 2018, birisi veya birçok kişi, Facebook ve Instagram'ın kullandığı,

are using the same mechanism that, like, Facebook and Instagram are using

sizde bu uygulamaları sürekli kontrol etme ihtiyacı uyandıran

to get you to keep checking that app,

o mekanizmanın aynısını kullanıyor.

and they're using it on YouTube to hack the brains of very small children

Bunu çok küçük çocukların beyinlerini ele geçirmek için

in return for advertising revenue.

Youtube'da reklam geliri karşılığında kullanıyorlar.

At least, I hope that's what they're doing.

En azından, umarım yaptıkları budur.

I hope that's what they're doing it for,

Umarım bunun için yapıyorlardır

because there's easier ways of making ad revenue on YouTube.

çünkü Youtube'da reklamdan gelir elde etmenin daha kolay yolları var.

You can just make stuff up or steal stuff.

Bir şeyler uydurabilir ya da çalabilirsiniz.

So if you search for really popular kids' cartoons

Eğer "Pegga Pig" veya "Paw Petrol" gibi

like "Peppa Pig" or "Paw Patrol,"

popüler çizgi filmleri ararsanız

you'll find there's millions and millions of these online as well.

internet üzerinde bunlardan milyonlarcasını bulabilirsiniz.

Of course, most of them aren't posted by the original content creators.

Tabii ki bunların çoğu orjinal içerik yaratıcıları tarafından konulmaz.

They come from loads and loads of different random accounts,

Rastgele birçok farklı hesap tarafından konuluyorlar

and it's impossible to know who's posting them

ve bunları kimin koyduğunu

veya amaçlarının ne olduğunu bilmek imkânsız.

or what their motives might be.

Does that sound kind of familiar?

Tanıdık geldi mi?

Because it's exactly the same mechanism

Çünkü dijital hizmetlerin çoğunda var olan

that's happening across most of our digital services,

mekanizmanın tamamen aynısı bu,

where it's impossible to know where this information is coming from.

bilginin nereden geldiğini bilmek imkânsız.

It's basically fake news for kids,

Bu resmen çocuklar için sahte haber

and we're training them from birth

ve onları doğduklarından itibaren

to click on the very first link that comes along,

önlerine gelen ilk linke tıklamaları için eğitiyoruz,

regardless of what the source is.

kaynağının ne olduğunu bile umursamadan.

That's doesn't seem like a terribly good idea.

Bu çok da iyi bir fikir gibi durmuyor.

Here's another thing that's really big on kids' YouTube.

YouTube'da gerçekten sevilen bir diğer şey daha var.

This is called the "Finger Family Song."

İsmi "Parmak Ailesi Şarkısı."

I just heard someone groan in the audience.

Seyircilerden birinin sızlandığını duydum.

This is the "Finger Family Song."

Bu "Parmak Ailesi Şarkısı."

This is the very first one I could find.

Bu bulabildiklerim arasında en eskisi.

It's from 2007, and it only has 200,000 views,

2007 yılında yüklenmiş ve sadece 200.000 kez izlenmiş,

which is, like, nothing in this game.

ki bu, nerdeyse bu platformda hiç demek.

But it has this insanely earwormy tune,

Ama insanı deli eden ve diline dolanan bir melodisi var,

which I'm not going to play to you,

bunu size dinletmeyeceğim

because it will sear itself into your brain

çünkü şarkı beyninize kazınacak,

in the same way that it seared itself into mine,

tıpkı benim beynime kazındığı gibi

and I'm not going to do that to you.

ve sizi buna maruz bırakmayacağım.

But like the surprise eggs,

Aynı sürpriz yumurtalar gibi

it's got inside kids' heads

çocukların aklına girerek

and addicted them to it.

onları buna bağımlı yaptılar.

So within a few years, these finger family videos

Böylece birkaç yıl içinde, bu parmak ailesi videoları

start appearing everywhere,

her yerde görünmeye başladı

and you get versions in different languages

ve farklı dillerde

with popular kids' cartoons using food

popüler çizgi filmlerin yiyecek

or, frankly, using whatever kind of animation elements

hatta her çeşit animasyon malzemesini kullandıkları

you seem to have lying around.

versiyonları etrafa yayıldı.

And once again, there are millions and millions and millions of these videos

Yine aynı şekilde, bu tür çılgınca kombinasyonlardan oluşan

available online in all of these kind of insane combinations.

milyonlarca video internette mevcut.

And the more time you start to spend with them,

Onlarla ne kadar vakit geçirirseniz

the crazier and crazier you start to feel that you might be.

delirdiğinize dair inancınız o kadar artar.

And that's where I kind of launched into this,

Ben de bu noktada bu konuya yöneldim,

that feeling of deep strangeness and deep lack of understanding

çevremde sunuluyor gibi görünen bu şeyin

of how this thing was constructed that seems to be presented around me.

nasıl inşa edildiğini asla anlayamama ve derin yabancılaşma hissi.

Because it's impossible to know where these things are coming from.

Çünkü bu şeylerin nereden geldiğini bilmek imkânsız.

Like, who is making them?

Yani, kim yapıyor bunları?

Some of them appear to be made of teams of professional animators.

Bazıları profesyonel animatör ekiplerle yapılmış gibi duruyor.

Some of them are just randomly assembled by software.

Bazıları sadece yazılım tarafından rastgele birleştirilmiş.

Some of them are quite wholesome-looking young kids' entertainers.

Bazıları oldukça sağlıklı görünen küçük çocuk şovmenleri.

And some of them are from people

Ve bazıları da...

who really clearly shouldn't be around children at all.

kesinlikle çocukların etrafında bulunmaması gereken insanlardan.

(Laughter)

(Gülme sesleri)

And once again, this impossibility of figuring out who's making this stuff --

Bir kez daha, bu şeyleri yapanın kim olduğunu çözmenin imkansızlığı--

like, this is a bot?

Bu bir robot mu?

Is this a person? Is this a troll?

Bu bir insan mı? Bir trol mü?

What does it mean that we can't tell the difference

Artık bu şeylerin farkını söyleyemiyor olmamız

between these things anymore?

ne anlama gelir?

And again, doesn't that uncertainty feel kind of familiar right now?

Peki bu belirsizlik tanıdık geliyor mu?

So the main way people get views on their videos --

Yani, insanların videolarını izletmelerinin tek yolu

and remember, views mean money --

-ki izlenme sayısı para demek-

is that they stuff the titles of these videos with these popular terms.

bu tür popüler terimleri videolarının başlığına sıkıştırmak.

So you take, like, "surprise eggs"

Mesela "sürpriz yumurta"yı alır,

and then you add "Paw Patrol," "Easter egg,"

"Paw Patrol" veya "Easter egg"i eklersiniz,

or whatever these things are,

ya da bu şeyler her neyse,

all of these words from other popular videos into your title,

popüler videolardaki bu kelimeleri alır ve başlığına eklersiniz,

until you end up with this kind of meaningless mash of language

ta ki insanlara hiçbir anlam ifade etmeyen

that doesn't make sense to humans at all.

bu tür anlamsız bir karma dil elde edene dek.

Because of course it's only really tiny kids who are watching your video,

Çünkü tabii ki sizin videonuzu izleyenler sadece ufacık çocuklar,

and what the hell do they know?

onlar ne biliyorlar ki?

Your real audience for this stuff is software.

Sizin bu şey için asıl seyirciniz yazılım.

It's the algorithms.

Algoritmalar.

It's the software that YouTube uses

Youtube'un hangi videoların

to select which videos are like other videos,

diğerleri gibi olduğunu seçmek için

to make them popular, to make them recommended.

onları popüler ve önerilen video yapmak için kullandığı yazılım.

And that's why you end up with this kind of completely meaningless mash,

Tamamıyla anlamsız olan bu karışımla sonuçlanmanızın nedeni de bu,

both of title and of content.

hem başlık hem içerik olarak.

But the thing is, you have to remember,

Ama önemli olan, hatırlamalısınız ki

there really are still people within this algorithmically optimized system,

algoritmik olarak en iyi hâle getirilen bu sistemin içinde gerçekten insanlar var.

people who are kind of increasingly forced to act out

Giderek garipleşen bu kelime kombinasyonlarını

these increasingly bizarre combinations of words,

canlandırmaya zorlanan insanlar,

like a desperate improvisation artist responding to the combined screams

tıpkı yürümeye yeni başlayan milyonlarca bebeğin çığlığına karşılık veren

of a million toddlers at once.

umutsuz bir doğaçlama sanatçısı gibi.

There are real people trapped within these systems,

Bu sistemlerde sıkışıp kalmış gerçek insanlar var

and that's the other deeply strange thing about this algorithmically driven culture,

ve bu da algoritmik işleyen bu kültürdeki son derece garip bir diğer şey

because even if you're human,

çünkü insansan bile,

you have to end up behaving like a machine

bir makine gibi davranmak zorundasın,

just to survive.

hayatta kalabilmek için.

And also, on the other side of the screen,

Bir de ekranın diğer tarafında

there still are these little kids watching this stuff,

bu tür şeyleri hâlâ izleyen, sıkışmış,

stuck, their full attention grabbed by these weird mechanisms.

tüm dikkati bu garip mekanizmalar tarafından yakalanmış çocuklar var.

And most of these kids are too small to even use a website.

Bu çocukların çoğu, internete girmek için bile çok küçük.

They're just kind of hammering on the screen with their little hands.

Sadece küçük elleriyle ekrana çekiçle vurur gibi vuruyorlar.

And so there's autoplay,

Bir de otomatik oynatma var,

where it just keeps playing these videos over and over and over in a loop,

bu videoları bir döngü içinde sonsuz bir şekilde

endlessly for hours and hours at a time.

saatlerce tekrar tekrar oynatan.

And there's so much weirdness in the system now

Sistemde şu an çok fazla gariplik var,

that autoplay takes you to some pretty strange places.

bu otomatik oynatma sizi çok garip yerlere götürüyor.

This is how, within a dozen steps,

İşte bu şekilde on iki adımda,

you can go from a cute video of a counting train

sayı sayan sevimli trenin videosundan

to masturbating Mickey Mouse.

mastürbasyon yapan Mickey Mouse'a gidebilirsiniz.

Yeah. I'm sorry about that.

Evet, bu konuda üzgünüm.

This does get worse.

Bu daha da kötüye gidiyor.

This is what happens

Tüm bu farklı anahtar kelimeler,

when all of these different keywords,

farklı dikkat parçaları,

all these different pieces of attention,

umutsuz içerik jenerasyonu,

this desperate generation of content,

tüm bunların hepsi

all comes together into a single place.

tek bir yerde bir araya gelince ortaya çıkan bu.

This is where all those deeply weird keywords come home to roost.

Burası tüm bu son derece garip anahtar kelimelerin geri teptiği yer.

You cross-breed the finger family video

Parmak ailesi videosunu alıp

with some live-action superhero stuff,

süper kahramanlarla çiftleştirirsiniz,

you add in some weird, trollish in-jokes or something,

birkaç garip, trol şaka eklersiniz

and suddenly, you come to a very weird place indeed.

ve birdenbire cidden de garip bir yere gelirsiniz.

The stuff that tends to upset parents

Ebeveynleri endişelendirebilecek şeyler

is the stuff that has kind of violent or sexual content, right?

şiddet veya cinsellik içeren şeyler, değil mi?

Children's cartoons getting assaulted,

Çocuk çizgi kahramanlar saldırıya uğruyor,

getting killed,

öldürülüyor,

weird pranks that actually genuinely terrify children.

çocukları aslında gerçekten korkutan garip şakalar.

What you have is software pulling in all of these different influences

Yazılımlar tüm bu farklı etkileri, çocukların en kötü kâbuslarını

to automatically generate kids' worst nightmares.

otomatik olarak üretmek için kullanıyorlar.

And this stuff really, really does affect small children.

Bu tür şeyler gerçekten de küçük çocukları etkiliyor.

Parents report their children being traumatized,

Ebeveynler çocuklarının travma geçirdiğini,

becoming afraid of the dark,

karanlıktan korkar olduğunu,

becoming afraid of their favorite cartoon characters.

sevdikleri çizgi film karakterlerinden korktuğunu bildiriyor.

If you take one thing away from this, it's that if you have small children,

Bundan bir çıkarım yaparsanız şu olsun: eğer küçük çocuklarınız varsa

keep them the hell away from YouTube.

onları YouTube'dan uzak tutun.

(Applause)

(Alkışlar)

But the other thing, the thing that really gets to me about this,

Fakat diğer bir şey ise, bu konuda beni gerçekten üzen şey şu ki

is that I'm not sure we even really understand how we got to this point.

bu noktaya nasıl geldiğimizi cidden anladığımızdan emin değilim.

We've taken all of this influence, all of these things,

Tüm bu etkileri, tüm bu şeyleri aldık

and munged them together in a way that no one really intended.

ve kimsenin pek niyetlenmediği bir şekilde birleştirdik.

And yet, this is also the way that we're building the entire world.

Ancak dünyayı inşa etme şeklimiz günümüzde bu.

We're taking all of this data,

Bütün bu verileri alıyoruz,

a lot of it bad data,

ki çoğu kötü veriler,

a lot of historical data full of prejudice,

önyargılarla dolu bir sürü tarihi veri,

full of all of our worst impulses of history,

tarihin en kötü dürtüleriyle dolu,

and we're building that into huge data sets

bunlardan devasa veri setleri yaratıyoruz,

and then we're automating it.

sonra da otomatikleştiriyoruz.

And we're munging it together into things like credit reports,

Bunların hepsini birlikte kredi raporlarına,

into insurance premiums,

sigorta primlerine,

into things like predictive policing systems,

tahmini polislik sistemi gibi şeylere,

into sentencing guidelines.

hüküm rehberlerine dönüştürüyoruz.

This is the way we're actually constructing the world today

Bu aslında, bugün bu dünyayı bu verileri kullanarak

out of this data.

inşa etme şeklimizdir.

And I don't know what's worse,

Hangisi daha kötü bilmiyorum,

that we built a system that seems to be entirely optimized

İnsan davranışlarının en kötü yanları için

for the absolute worst aspects of human behavior,

en uygun hâle getirilmiş gibi görünen bir sistem kurmamız mı

or that we seem to have done it by accident,

yoksa bunu yapıyor olduğumuzun bile farkına varmadan

without even realizing that we were doing it,

kazara yapmış gibi görünüyor olmamız mı?

because we didn't really understand the systems that we were building,

Çünkü yapmakta olduğumuz bu sistemleri gerçekten anlayamadık,

and we didn't really understand how to do anything differently with it.

onlarla nasıl daha farklı bir şey yapılacağını da gerçekten anlamadık.

There's a couple of things I think that really seem to be driving this

Birkaç şeyin buna yön verdiğini düşünüyorum,

most fully on YouTube,

çoğu Youtube üzerinde

and the first of those is advertising,

ve bunlardan ilki reklamcılık,

which is the monetization of attention

ki bu da, ilginin paraya dönüştürülmesi demek,

without any real other variables at work,

işin içinde başka gerçek değişken olmadan,

any care for the people who are actually developing this content,

bu içeriği gerçekten geliştiren insanları umursamadan,

the centralization of the power, the separation of those things.

gücün merkezileştirilmesi, bu şeylerin birbirinden ayrılması.

And I think however you feel about the use of advertising

Bence bazı şeyleri desteklemek için

reklam kullanımı konusunda her ne düşünüyorsanız

to kind of support stuff,

the sight of grown men in diapers rolling around in the sand

hiç anlamadıkları bir algoritmanın onlara para vereceği umuduyla

in the hope that an algorithm that they don't really understand

bebek beziyle kumda yuvarlanan

will give them money for it

olgun adamların görüntüsü,

suggests that this probably isn't the thing

toplum ve kültürümüzü dayandırmamız gereken şeyin

that we should be basing our society and culture upon,

muhtemelen bu şey olmadığını

and the way in which we should be funding it.

ve buna para yatırmamamız gerektiğini gösteriyor.

And the other thing that's kind of the major driver of this is automation,

Buna yön veren diğer büyük şey de otomatikleşme,

which is the deployment of all of this technology

ulaşır ulaşmaz hiç gözden kaçmaksızın

as soon as it arrives, without any kind of oversight,

tüm bu teknolojinin kulanılmaya başlanması

and then once it's out there,

ve teknoloji kendini gösterdiğinde

kind of throwing up our hands and going, "Hey, it's not us, it's the technology."

ellerimizi kaldırıp "Ama biz yapmadık, teknoloji yaptı" demek.

Like, "We're not involved in it."

"Bizim bir suçumuz yok."

That's not really good enough,

Bu gerçekten yeterli değil.

because this stuff isn't just algorithmically governed,

Çünkü bu şey sadece algoritmik olarak yönetilmiyor,

it's also algorithmically policed.

aynı zamanda algoritmik olarak denetleniyor.

When YouTube first started to pay attention to this,

YouTube buna ilk kulak verdiği zamanlarda

the first thing they said they'd do about it

bununla ilgili söyledikleri ilk şey

was that they'd deploy better machine learning algorithms

daha iyi makine öğrenimli algoritmalar kullanacaklarıydı,

to moderate the content.

içeriği ılımlı yapmak için.

Well, machine learning, as any expert in it will tell you,

Bu alandaki her uzmanın size söyleyeceği gibi, "makine öğrenmesi"

is basically what we've started to call

nasıl çalıştığını aslında anlamadığımız yazılımlara

software that we don't really understand how it works.

vermiş olduğumuz isim.

And I think we have enough of that already.

Bence bunlardan elimizde yeterince var.

We shouldn't be leaving this stuff up to AI to decide

Neyin uygun olduğunu belirlemeyi

yapay zekâya bırakmamalıyız

what's appropriate or not,

çünkü ne olacağını biliyoruz.

because we know what happens.

It'll start censoring other things.

Başka şeyleri sansürleyecek.

Eşcinsel içerikleri sansürleyecek.

It'll start censoring queer content.

Yasal kamu konuşmalarını sansürlemeye başlayacak.

It'll start censoring legitimate public speech.

What's allowed in these discourses,

Bu söylemlerde izin verilen,

it shouldn't be something that's left up to unaccountable systems.

sorumsuz sistemlere bırakılan bir şey olmamalı.

It's part of a discussion all of us should be having.

Bu hepimizin yapması gereken bir tartışmanın parçası.

But I'd leave a reminder

Ama bir hatırlatma yapayım,

that the alternative isn't very pleasant, either.

alternatif de pek hoş değil.

YouTube also announced recently

Buna ek olarak YouTube yakın zamanda

that they're going to release a version of their kids' app

çocuk uygulamalarının tamamen insanlar tarafından yönetildiği

that would be entirely moderated by humans.

bir versiyon çıkaracaklarını duyurdu.

Facebook -- Zuckerberg said much the same thing at Congress,

Facebook-- Zuckerberg de uygulamasını nasıl yöneteceği sorulduğunda

when pressed about how they were going to moderate their stuff.

kongrede neredeyse aynı şeyi söylemişti.

He said they'd have humans doing it.

Bunu insanlara yaptıracağız demişti.

And what that really means is,

Bunun asıl anlamı şu;

instead of having toddlers being the first person to see this stuff,

bu şeyleri ilk görenler, çocuklar yerine

you're going to have underpaid, precarious contract workers

düşük maaşlı, güvencesiz sözleşmeli işçileriniz olacak,

without proper mental health support

düzgün akıl sağlığı sigortası olmayan

being damaged by it as well.

ve bundan hasar gören insanlar.

(Laughter)

(Kahkahalar)

And I think we can all do quite a lot better than that.

Bence hepimiz bundan çok daha iyisini yapabiliriz.

(Applause)

(Alkışlar)

The thought, I think, that brings those two things together, really, for me,

Bu iki şeyi bir araya getiren düşünce de

bana göre gerçekten aracı kurum.

is agency.

It's like, how much do we really understand -- by agency, I mean:

Aracı kurumdan aslında ne anladığımızı kastediyorum:

how we know how to act in our own best interests.

Nasıl en iyi menfaatlerimize göre hareket etmeyi bilmemiz,

Which -- it's almost impossible to do

ki bunu yapmak neredeyse imkânsız,

in these systems that we don't really fully understand.

gerçekten tam anlamıyla anlamadığımız bu sistemlerin içinde.

Inequality of power always leads to violence.

Güç eşitsizliği her zaman şiddete yol açar.

And we can see inside these systems

Bu sistemlerin içerisinde

that inequality of understanding does the same thing.

kavrayış eşitsizliğinin de aynını yaptığını görüyoruz.

If there's one thing that we can do to start to improve these systems,

Bu sistemleri geliştirmek için yapabileceğimiz bir şey varsa

it's to make them more legible to the people who use them,

o da bunları kullanan insanlar için daha okunaklı yapmak,

so that all of us have a common understanding

böylece burada neler döndüğü ile ilgili

of what's actually going on here.

hepimizin ortak bir kanısı olur.

The thing, though, I think most about these systems

Gerçi bu sistemlerle ilgili en çok düşündüğüm şey de şu ki

is that this isn't, as I hope I've explained, really about YouTube.

umarım anlatabilmişimdir, bu olay YouTube ile ilgili değil.

It's about everything.

Her şeyle ilgili.

These issues of accountability and agency,

Bu sorumluluk ve aracılık,

of opacity and complexity,

anlaşılmazlık ve karmaşa,

of the violence and exploitation that inherently results

gücün birkaç kişinin elinde toplanmış olmasından kaynaklanan

from the concentration of power in a few hands --

şiddet ve istismar konuları--

these are much, much larger issues.

bunlar çok, çok daha geniş konular.

And they're issues not just of YouTube and not just of technology in general,

Üstelik bunlar sadece Youtube'un veya teknolojinin genel sorunları değil,

and they're not even new.

bunlar yeni bile değil.

They've been with us for ages.

Bunlar senelerdir bizimleydi.

But we finally built this system, this global system, the internet,

Ama biz en sonunda, bize bunları sıradışı bir şekilde gösteren,

that's actually showing them to us in this extraordinary way,

bunları inkâr edilemez yapan global sistemi,

making them undeniable.

interneti yarattık.

Technology has this extraordinary capacity

Teknolojinin öyle sıradışı bir kapasitesi var ki

to both instantiate and continue

en sıradışı ve gizli kalmış tutku ve önyargılarımızı

all of our most extraordinary, often hidden desires and biases

örneklemek ve sürdürmekle kalmıyor,

and encoding them into the world,

onları gerçek dünyaya çözümlüyor

but it also writes them down so that we can see them,

ama aynı zamanda bunları görmemiz için not ediyor,

so that we can't pretend they don't exist anymore.

böylece yokmuş gibi davranamıyoruz.

We need to stop thinking about technology as a solution to all of our problems,

Teknolojiyi tüm problemlerimizin çözümü olarak görmek yerine,

but think of it as a guide to what those problems actually are,

bu problemlerin aslında ne olduğunu gösteren bir rehber olarak görmeliyiz ki

so we can start thinking about them properly

böylece onlar hakkında düzgünce düşünüp

and start to address them.

çözüm bulabilelim.

Thank you very much.

Çok teşekkür ederim.

(Applause)

(Alkışlar)

Thank you.

Teşekkür ederim.

(Applause)

(Alkışlar)

Helen Walters: James, thank you for coming and giving us that talk.

Helen Walters: James, bize bu konuşmayı yaptığın için teşekkürler.

So it's interesting:

Öylesine ilginç ki

when you think about the films where the robotic overlords take over,

robotik otoritelerin yönetimi ele geçirdiği filmleri düşününce

it's all a bit more glamorous than what you're describing.

her şey senin tanımladığından biraz daha göz alıcı.

But I wonder -- in those films, you have the resistance mounting.

Ama merak ettiğim şu-- bu fimlerde bir direniş var.

Is there a resistance mounting towards this stuff?

Bu şeylere karşı da bir direniş var mı?

Do you see any positive signs, green shoots of resistance?

Hiç pozitif bir işaret, yeşeren bir direniş görüyor musun?

James Bridle: I don't know about direct resistance,

James Bridle: Direkt bir direnişi bilemem

because I think this stuff is super long-term.

çünkü bu şey çok uzun vadeli.

I think it's baked into culture in really deep ways.

Bence çok derin şekilde kültürün içine işledi.

A friend of mine, Eleanor Saitta, always says

Bir arkadaşım, Eleanor Saitta, her zaman der ki

that any technological problems of sufficient scale and scope

yeterli ölçüde ve kapsamda her teknolojik problem

are political problems first of all.

öncellikle politik bir problemdir.

So all of these things we're working to address within this

Yani bunun içinde çözmeye çalıştığımız her şey

are not going to be addressed just by building the technology better,

sadece teknolojiyi daha iyi inşa etmekle değil,

but actually by changing the society that's producing these technologies.

bu teknolojileri üreten toplumu değiştirmekle çözülecek.

So no, right now, I think we've got a hell of a long way to go.

Yani hayır, şu an, bence gidecek daha çok yolumuz var.

But as I said, I think by unpacking them,

Ama dediğim gibi, bunları açığa çıkartıp açıklayarak,

by explaining them, by talking about them super honestly,

bunlar hakkında dürüstçe konuşarak

we can actually start to at least begin that process.

bence en azından bu süreci başlatabiliriz.

HW: And so when you talk about legibility and digital literacy,

HW: Sen okunabilirlik ve dijital okuryazarlık hakkında konuşunca

I find it difficult to imagine

dijital okuryazarlık yükünü

that we need to place the burden of digital literacy on users themselves.

kullanıcılara yüklememizin gerekliliğini hayal etmesi zor buluyorum.

But whose responsibility is education in this new world?

Ama bu yeni dünyada eğitimden kim sorumlu?

JB: Again, I think this responsibility is kind of up to all of us,

JB: Bence, bu sorumluluk biraz da hepimizde,

that everything we do, everything we build, everything we make,

yaptığımız, inşa ettiğimiz her şey

needs to be made in a consensual discussion

karşılıklı tartışma ile yapılmalı,

with everyone who's avoiding it;

bundan kaçınan insanlarla birlikte;

that we're not building systems intended to trick and surprise people

insanların doğru şeyi yapması için aklını çelme amacı taşıyan

into doing the right thing,

sistemler tasarlamıyoruz

but that they're actually involved in every step in educating them,

ama bunlar onları eğitmenin her adımına dâhiller

because each of these systems is educational.

çünkü bu sistemlerin her biri eğitici.

That's what I'm hopeful about, about even this really grim stuff,

Umutlu olduğum şey de bu, bu son derece acımasızca şeylerde bile,

that if you can take it and look at it properly,

eğer onu alıp düzgünce incelerseniz

it's actually in itself a piece of education

aslında o, kendi içinde eğitim parçası,

that allows you to start seeing how complex systems come together and work

karmaşık sistemlerin nasıl bir araya gelip işlediğini görmeye başlamamızı

and maybe be able to apply that knowledge elsewhere in the world.

ve belki de bu bilgiyi dünyanın başka bir yerinde kullanmamızı sağlayacak.

HW: James, it's such an important discussion,

HW: James, bu çok önemli bir tartışmaydı

and I know many people here are really open and prepared to have it,

ve biliyorum ki buradaki çoğu insan bu tartışmaya açık ve hazırlar,

so thanks for starting off our morning.

güne seninle başlamak çok güzeldi.

JB: Thanks very much. Cheers.

JB: Çok teşekkürler.

(Applause)

(Alkışlar)