The nightmare videos of childrens' YouTube — and what's wrong with the internet today | James Bridle

번역: dasol park 검토: TJ Kim

I'm James.

저는 제임스라고 합니다.

I'm a writer and artist,

작가 겸 예술가이고,

and I make work about technology.

과학기술을 소재로 한 작품을 만듭니다.

I do things like draw life-size outlines of military drones

실제 크기의 군사용 드론의 윤곽을 전 세계 여러 도시의 거리에

in city streets around the world,

그리는 등의 작업을 하죠.

so that people can start to think and get their heads around

사람들이 접하기도 상상하기도 어려운 과학기술에 대해

these really quite hard-to-see and hard-to-think-about technologies.

생각해 보고 알아 보는 기회를 제공하는 셈이죠.

I make things like neural networks that predict the results of elections

또, 선거결과를 예측하는 컴퓨터 신경망을 만들기도 하는데,

based on weather reports,

일기예보에 기반을 둔 것입니다.

because I'm intrigued about

이런 별난 신 기술들이 가지고 있는

what the actual possibilities of these weird new technologies are.

실제 가능성에 대해 관심이 많기 때문에 가능한 일이죠.

Last year, I built my own self-driving car.

작년엔 무인 자동차도 직접 만들어 봤어요.

But because I don't really trust technology,

제가 기술을 신봉하진 않기 때문에,

I also designed a trap for it.

그 차를 잡아 둘 올가미까지 디자인 했습니다.

(Laughter)

(웃음)

And I do these things mostly because I find them completely fascinating,

아주 큰 매력을 느끼기 때문에 이런 작업을 하기도 하지만,

but also because I think when we talk about technology,

과학기술을 논할 때,

we're largely talking about ourselves

대부분 우리 자신에 대한 것이고,

and the way that we understand the world.

우리가 세상을 이해하는 방식에 국한되기 때문입니다.

So here's a story about technology.

과학기술에 관련된 이야기를 하나 해 드릴게요.

This is a "surprise egg" video.

"서프라이즈 에그" 영상입니다.

It's basically a video of someone opening up loads of chocolate eggs

누군가 수많은 알 모양의 초콜릿을 열어,

and showing the toys inside to the viewer.

안에 들어 있는 장난감을 시청자들에게 보여주는 거죠.

That's it. That's all it does for seven long minutes.

그게 다에요. 7분 동안이나 계속 됩니다.

And I want you to notice two things about this.

여기서 주목할 것이 두 가지 있습니다.

First of all, this video has 30 million views.

우선, 이 영상의 조회수가 3천만 회라는 것입니다.

(Laughter)

(웃음)

And the other thing is,

그리고 또 하나,

it comes from a channel that has 6.3 million subscribers,

630만명이 이 채널에 등록되어 있고,

that has a total of eight billion views,

전체 조회수가 80억회에 달하는데,

and it's all just more videos like this --

모두 이런 종류의 영상들이란 거죠.

30 million people watching a guy opening up these eggs.

한 사람이 알을 까는 장면을 3천만명이 보고 있다는 것입니다.

It sounds pretty weird, but if you search for "surprise eggs" on YouTube,

별나게 들리지만, 유튜브에서 "서프라이즈 에그"를 검색해 보면,

it'll tell you there's 10 million of these videos,

천만개 정도의 결과가 나옵니다.

and I think that's an undercount.

제가 조금 덜 센 것 같네요.

I think there's way, way more of these.

아마 훨씬 더 많겠죠.

If you keep searching, they're endless.

계속 찾아 보면, 끝도 없이 나올 거예요.

There's millions and millions of these videos

이런 종류의 영상들은 수 백만 개가 넘습니다.

in increasingly baroque combinations of brands and materials,

브랜드와 소재가 어지럽게 뒤엉킨 이런 영상들은

and there's more and more of them being uploaded every single day.

매일 점점 더 많이 올라옵니다.

Like, this is a strange world. Right?

신기한 세상이죠. 맞나요?

But the thing is, it's not adults who are watching these videos.

하지만, 이런 영상을 보는 이들은 어른들이 아니라,

It's kids, small children.

아이들이죠, 어린 아이들이요.

These videos are like crack for little kids.

아이들에게 이런 영상들은 마약과도 같습니다.

There's something about the repetition,

계속해서 반복되는 장면들,

the constant little dopamine hit of the reveal,

알 속의 내용물을 확인할 때마다 조금씩 발생하는 '도파민'은

that completely hooks them in.

아이들을 중독시키죠.

And little kids watch these videos over and over and over again,

어린 아이들은 이런 영상을 계속해서 보면서,

and they do it for hours and hours and hours.

몇 시간을 보내기도 합니다.

And if you try and take the screen away from them,

여러분들이 더 이상 못 보게 하면

they'll scream and scream and scream.

울고 불고 난리가 날 거예요.

If you don't believe me --

저를 못 믿겠으면

and I've already seen people in the audience nodding --

이미 몇분은 고개를 끄덕이는데요.

if you don't believe me, find someone with small children and ask them,

그럼, 어린 애를 키우는 분에게 한번 물어보세요.

and they'll know about the surprise egg videos.

분명히 이 '서프라이즈 에그' 영상에 대해 알고 있을 겁니다.

So this is where we start.

여기가 오늘 강연의 시작입니다.

It's 2018, and someone, or lots of people,

2018년이 된 지금, 누군가, 아니면 많은 사람들이

are using the same mechanism that, like, Facebook and Instagram are using

'페이스북'이나 '인스타그램'에서 사용하는 방식들을 이용해

to get you to keep checking that app,

사람들로 하여금 계속 어플을 확인하게 하고,

and they're using it on YouTube to hack the brains of very small children

어린 아이들까지 유튜브에 중독되게 만들고 있습니다.

in return for advertising revenue.

모두 광고 수익을 위한 일이죠.

At least, I hope that's what they're doing.

적어도, 그게 전부였으면 합니다.

I hope that's what they're doing it for,

그게 전부였으면 하는데,

because there's easier ways of making ad revenue on YouTube.

더 쉽게 유튜브에서 광고로 돈 벌 수 있는 방법들이 있기 때문이죠.

You can just make stuff up or steal stuff.

무작정 꾸며내거나 도용하면 되니까요.

So if you search for really popular kids' cartoons

아주 인기 많은 어린이 만화를 검색해 보면,

like "Peppa Pig" or "Paw Patrol,"

"페파 피그" 또는 "파우 패트롤" 같은 것들이죠,

you'll find there's millions and millions of these online as well.

수 백만개가 넘는 영상들이 뜹니다.

Of course, most of them aren't posted by the original content creators.

물론, 대부분은 원작자가 아닌 이들에 의해 올라온 것들이죠.

They come from loads and loads of different random accounts,

무작위로 만들어진 수많은 계정으로부터 올려졌고,

and it's impossible to know who's posting them

누가, 왜 그런 영상들을 올리는지

or what their motives might be.

알 수도 없습니다.

Does that sound kind of familiar?

어디서 들어본 얘기 같지 않나요?

Because it's exactly the same mechanism

우리가 디지털 서비스를 이용할 때와

that's happening across most of our digital services,

같은 방식이기 때문입니다.

where it's impossible to know where this information is coming from.

정보들의 출처를 알 수 없는 그 방식 말이죠.

It's basically fake news for kids,

말하자면 아동용 가짜 뉴스들이고,

and we're training them from birth

그 아이들이 태어나면서부터

to click on the very first link that comes along,

검색 결과 중 맨 위에 있는 링크를 누르도록 훈련시키는 것과 같습니다.

regardless of what the source is.

그 출처와는 상관없이 말이죠.

That's doesn't seem like a terribly good idea.

결코 바람직한 일이 아닙니다.

Here's another thing that's really big on kids' YouTube.

아동용 유튜브에서 인기가 많은 것이 하나 더 있죠.

This is called the "Finger Family Song."

"핑거 패밀리 송"입니다.

I just heard someone groan in the audience.

방금 누군가 한숨을 쉬시네요.

This is the "Finger Family Song."

이것이 "핑거 패밀리 송"입니다.

This is the very first one I could find.

제가 가장 먼저 찾은 영상이죠.

It's from 2007, and it only has 200,000 views,

2007년에 올라온 이 영상은 조회수가 20만회 정도였어요.

which is, like, nothing in this game.

다른 것들에 비하면 대단한 것도 아니죠.

But it has this insanely earwormy tune,

여기 정말 따라 부르기 쉬운 노래가 하나 있는데,

which I'm not going to play to you,

여러분께 들려 드리진 않으려구요.

because it will sear itself into your brain

한 번 들으면 머리 속에서 떠나질 않거든요.

in the same way that it seared itself into mine,

지금도 제 머리 속에 남아 있는데,

and I'm not going to do that to you.

여러분들까지 그렇게 만들 순 없죠.

But like the surprise eggs,

'서프라이즈 에그' 처럼,

it's got inside kids' heads

이 영상도 아이들의 머리 속에 들어가

and addicted them to it.

그들을 중독시켰습니다.

So within a few years, these finger family videos

그리고 몇 년 안돼, 이 '핑거 패밀리' 영상도

start appearing everywhere,

어디를 가나 볼 수 있게 됐죠.

and you get versions in different languages

음식이나 만화의 소재가 되는 것이라면 뭐든 이용해 만든

with popular kids' cartoons using food

인기 많은 어린이 만화들을

or, frankly, using whatever kind of animation elements

이제 다양한 종류와 언어로

you seem to have lying around.

접할 수 있게 된 것이죠.

And once again, there are millions and millions and millions of these videos

다시 말해, 이런 말도 안되는 영상들이

available online in all of these kind of insane combinations.

온라인 상에 몇 백만 개나 돌아 다니는 겁니다.

And the more time you start to spend with them,

이런 것들을 보는데, 시간을 쓰면 쓸수록

the crazier and crazier you start to feel that you might be.

점점 미쳐가는 기분을 느낄 수도 있습니다.

And that's where I kind of launched into this,

바로 제가 이런 기분에 빠지게 된 이유죠.

that feeling of deep strangeness and deep lack of understanding

제 주변에서 이런 일들이 어떻게 가능하게 됐는지,

of how this thing was constructed that seems to be presented around me.

도저히 알 수 없는 아주 묘한 그런 기분이요.

Because it's impossible to know where these things are coming from.

어디서 시작됐는지 알 수가 없기 때문입니다.

Like, who is making them?

도대체 누가 이런 것들을 만드는 걸까요?

Some of them appear to be made of teams of professional animators.

어떤 것들은 만화 제작자들에 의해 전문적으로 만들어 지기도 하고,

Some of them are just randomly assembled by software.

어떤 것들은 대충 짜집기한 티가 납니다.

Some of them are quite wholesome-looking young kids' entertainers.

어떤 것들은 아이들이 즐기기에 괜찮아 보이는 것도 있습니다.

And some of them are from people

어떤 것들은 아이들 곁에 있어선

who really clearly shouldn't be around children at all.

절대 안 되는 사람들이 만든 것도 있습니다.

(Laughter)

(웃음)

And once again, this impossibility of figuring out who's making this stuff --

다시 말해, 누가 이런 것들을 만드는지 알 수가 없다는 것

like, this is a bot?

자동처리 프로그램?

Is this a person? Is this a troll?

사람인가? 아니면 트롤인가?

What does it mean that we can't tell the difference

우리가 이제 이런 것들을 구별할 수 없다는 것이

between these things anymore?

무엇을 의미할까요?

And again, doesn't that uncertainty feel kind of familiar right now?

다시 말해, 이런 불확실함에 익숙하지 않으세요?

So the main way people get views on their videos --

사람들이 조회수를 올리기 위해 쓰는 주된 방법은

and remember, views mean money --

조회수는 곧 돈이란 걸 기억하세요.

is that they stuff the titles of these videos with these popular terms.

사람들이 많이 찾는 말을 제목에 붙여 쓰는 것입니다.

So you take, like, "surprise eggs"

예를 들어, "서프라이즈 에그"를 제목에 붙이고,

and then you add "Paw Patrol," "Easter egg,"

"파우 패트롤", "부활절 달걀" 같은

or whatever these things are,

말들을 마구잡이로

all of these words from other popular videos into your title,

가져다가 곁들이는 거죠.

until you end up with this kind of meaningless mash of language

인간으로서 이해할 수 없는 의미없는 말들을 줄줄이 엮어

that doesn't make sense to humans at all.

사람들로 하여금 그 영상들을 보게 하는 것입니다.

Because of course it's only really tiny kids who are watching your video,

어차피 그런 영상을 보는건 어린 아이들인데,

and what the hell do they know?

그 아이들이 무슨 죄죠?

Your real audience for this stuff is software.

사실 이런 영상들의 실질적인 시청자는 소프트웨어입니다.

It's the algorithms.

알고리즘이죠.

It's the software that YouTube uses

유튜브에서 사용하는 이 소프트웨어는

to select which videos are like other videos,

영상들을 선별하고,

to make them popular, to make them recommended.

인기나 추천을 많이 받게 만듭니다.

And that's why you end up with this kind of completely meaningless mash,

그래서 이 황당한 말들이 제목과 내용 설명에

both of title and of content.

마구 쓰여지는 거죠.

But the thing is, you have to remember,

하지만, 꼭 명심할 것은

there really are still people within this algorithmically optimized system,

알고리즘으로 최적화된 이런 시스템 상에서

people who are kind of increasingly forced to act out

점점 더 괴상한 말의 조합들을 쏟아 내야하는

these increasingly bizarre combinations of words,

환경이 조장된다는 것입니다.

like a desperate improvisation artist responding to the combined screams

마치 수 많은 아이들의 함성에 굶주린

of a million toddlers at once.

절박한 즉흥연기자처럼 말이죠.

There are real people trapped within these systems,

실제로 사람들은 이런 시스템 안에 갇히게 되고,

and that's the other deeply strange thing about this algorithmically driven culture,

알고리즘에 의해 지배되는 사회라는 아주 기이한 현상을 초래했습니다.

because even if you're human,

인간임에도 불구하고,

you have to end up behaving like a machine

살아남기 위해,

just to survive.

기계처럼 행동하게 된 것이죠.

And also, on the other side of the screen,

그리고, 화면 반대편에는

there still are these little kids watching this stuff,

어린 아이들이 여전히 이런 영상들을 보고 있고,

stuck, their full attention grabbed by these weird mechanisms.

이 기이한 구조에 푹 빠져 버립니다.

And most of these kids are too small to even use a website.

이런 웹사이트를 이용하는 아이들은 대부분 아주 어리죠.

They're just kind of hammering on the screen with their little hands.

작은 손으로 화면을 두들기는 것 뿐입니다.

And so there's autoplay,

그래서 자동재생 기능이 있는 거죠.

where it just keeps playing these videos over and over and over in a loop,

이런 영상들이 계속 반복해서 보여지도록 말입니다.

endlessly for hours and hours at a time.

한 번에 몇 시간씩 끝도 없습니다.

And there's so much weirdness in the system now

현재 이런 시스템에는 정말 이상한 것들이 많은데,

that autoplay takes you to some pretty strange places.

자동재생이 되면서 뜻밖의 영상이 보여 지기도 하죠.

This is how, within a dozen steps,

열 몇 번 정도를 거치면,

you can go from a cute video of a counting train

기차의 수를 세는 이 깜찍한 영상에서 시작해,

to masturbating Mickey Mouse.

미키마우스가 자위하는 영상까지 보게 됩니다.

Yeah. I'm sorry about that.

맞습니다. 안타까운 일이죠.

This does get worse.

이제 더 심각해집니다.

This is what happens

이런 것들은,

when all of these different keywords,

이 다양한 키워드들,

all these different pieces of attention,

이 다양한 관심들,

this desperate generation of content,

이 필사적인 콘텐츠의 양산 등이

all comes together into a single place.

한 데 모이면서 발생합니다.

This is where all those deeply weird keywords come home to roost.

이상한 검색어들이 모여 부메랑 효과를 가져오는 거죠.

You cross-breed the finger family video

'핑거 패밀리' 영상과

with some live-action superhero stuff,

슈퍼영웅이 나오는 영화들을 함께 검색해 보면,

you add in some weird, trollish in-jokes or something,

그냥 장난으로 별난 검색어를 쳤을 뿐인데,

and suddenly, you come to a very weird place indeed.

뜻밖에 아주 이상한 결과에 접하게 됩니다.

The stuff that tends to upset parents

부모님들을 주로 화나게 하는

is the stuff that has kind of violent or sexual content, right?

폭력적이거나 성적인 것들이죠. 맞나요?

Children's cartoons getting assaulted,

폭행이나 살인,

getting killed,

짖궂은 장난 등을 보여주는

weird pranks that actually genuinely terrify children.

어린이 만화들은 아이들을 겁에 질리게 합니다.

What you have is software pulling in all of these different influences

다양하게 영향을 미치는 영상물들을 긁어 모으는 소프트웨어가

to automatically generate kids' worst nightmares.

아이들에게 아주 끔찍한 악몽들을 기계적으로 제공하는 것이죠.

And this stuff really, really does affect small children.

어린 아이들은 아주 큰 영향을 받게 됩니다.

Parents report their children being traumatized,

부모님들은 아이들이 정신적인 충격을 받고,

becoming afraid of the dark,

어둠을 무서워하게 되고,

becoming afraid of their favorite cartoon characters.

좋아하던 만화 주인공들까지 기피하게 됐다고 말합니다.

If you take one thing away from this, it's that if you have small children,

오늘 꼭 기억해야 할 것 하나는, 혹시 어린 자녀분들이 계시다면,

keep them the hell away from YouTube.

유튜브는 절대 쓰지 못하게 하란 것입니다.

(Applause)

(박수)

But the other thing, the thing that really gets to me about this,

그런데, 또 하나 저를 괴롭히는 건

is that I'm not sure we even really understand how we got to this point.

어쩌다 상황이 이렇게까지 됐는지 알 수가 없다는 것입니다.

We've taken all of this influence, all of these things,

이런 영향력을 가진 모든 것들을 가져다 뒤섞어,

and munged them together in a way that no one really intended.

누구도 예상치 못한 기이한 현상을 만들어 낸 것입니다.

And yet, this is also the way that we're building the entire world.

그런데, 이것이 오늘날 우리가 세상을 만들어 가는 방식이죠.

We're taking all of this data,

이런 모든 데이터를 가지고,

a lot of it bad data,

좋지 않은 것들이 많은데요.

a lot of historical data full of prejudice,

편견으로 가득한 과거의 기록들,

full of all of our worst impulses of history,

역사상 최악의 충동적인 사건 사고들을 모아

and we're building that into huge data sets

거대한 데이터 집합을 만들어

and then we're automating it.

자동화시키고 있습니다.

And we're munging it together into things like credit reports,

우리는 그 데이터들을 함께 섞어, 신용평가 보고서,

into insurance premiums,

보험료 산정,

into things like predictive policing systems,

치안 예측 시스템,

into sentencing guidelines.

양형기준 등을 정하는 데 쓰고 있습니다.

This is the way we're actually constructing the world today

오늘날 우리가 세상을 만들어 가는 방식이

out of this data.

이런 데이터들에 의해 결정되는 것이죠.

And I don't know what's worse,

뭐가 더 나쁜 건지 모르겠어요.

that we built a system that seems to be entirely optimized

인간이 할 수 있는 최악의 행위에 최적화된 시스템을

for the absolute worst aspects of human behavior,

일부러 만들어 내는 것과,

or that we seem to have done it by accident,

부지불식간에 어쩌다가

without even realizing that we were doing it,

그렇게 되버리는 것 중 말이죠.

because we didn't really understand the systems that we were building,

우리가 만들고 있는 이 시스템들의

and we didn't really understand how to do anything differently with it.

활용 방법 또한 전혀 알지 못하기 때문입니다.

There's a couple of things I think that really seem to be driving this

이런 현상을 이끄는 두 가지 요인이 있습니다.

most fully on YouTube,

거의 유튜브에서 말이죠.

and the first of those is advertising,

첫번째, 광고입니다.

which is the monetization of attention

사람들의 관심을 끌어 수익을 창출하는 것 말이죠.

without any real other variables at work,

사실 다른 이유는 찾아보기 힘듭니다.

any care for the people who are actually developing this content,

실제 이런 콘텐츠를 만드는 사람들,

the centralization of the power, the separation of those things.

권력의 중앙 집권화와 분산 등은 신경도 쓰지 않습니다.

And I think however you feel about the use of advertising

결국 이런 현상을 부추기는 광고의 사용에 대해

to kind of support stuff,

어떻게 생각하실지 모르지만,

the sight of grown men in diapers rolling around in the sand

사실 제대로 알지도 못하는 알고리즘을 통해

in the hope that an algorithm that they don't really understand

혹시 돈이 될까 하고 만든, 다 큰 어른이 기저귀를 차고

will give them money for it

모래사장에서 뒹구는 이 영상이

suggests that this probably isn't the thing

시사하는 것은,

that we should be basing our society and culture upon,

이런 것들이 우리 사회와 문화의 기반이 되어서도,

and the way in which we should be funding it.

투자의 대상이 되어서도 안된다는 것입니다.

And the other thing that's kind of the major driver of this is automation,

이런 현상을 이끄는 또 다른 요인은 자동화입니다.

which is the deployment of all of this technology

소개되자마자 아무런 검증도 없이

as soon as it arrives, without any kind of oversight,

상용화되는 과학기술의 단면이죠.

and then once it's out there,

일단 그렇게 된 후에는,

kind of throwing up our hands and going, "Hey, it's not us, it's the technology."

그저 포기 한 것처럼, "봐, 우리가 아니라, 그 기술이 문제야."

Like, "We're not involved in it."

"우리하곤 상관 없어" 하는 것 처럼 말이죠.

That's not really good enough,

이건 변명에 불과합니다.

because this stuff isn't just algorithmically governed,

단순히 알고리즘에 의해 지배되고 있을 뿐 아니라,

it's also algorithmically policed.

규제까지 받고 있기 때문이죠.

When YouTube first started to pay attention to this,

유튜브가 이 문제에 처음 관심을 가지면서

the first thing they said they'd do about it

제일 먼저 약속했던 건,

was that they'd deploy better machine learning algorithms

콘텐츠의 관리를 위해 보다 나은 기계 학습 알고리즘을

to moderate the content.

활용하겠다는 것이었습니다.

Well, machine learning, as any expert in it will tell you,

글쎄요, 전문가라면 말하겠지만, 기계 학습은,

is basically what we've started to call

우리가 흔히

software that we don't really understand how it works.

예측 불가능한 소프트웨어에 쓰는 말이죠.

And I think we have enough of that already.

이미 주변에서 이런 것들은 충분히 볼 수 있습니다.

We shouldn't be leaving this stuff up to AI to decide

올바르거나, 그렇지 않은 것의 판단을

what's appropriate or not,

인공지능에 맡겨서는 안되겠죠.

because we know what happens.

어떤 일이 벌어질지 우리는 잘 알고 있습니다.

It'll start censoring other things.

엉뚱한 것들을 검열하기 시작하겠죠.

It'll start censoring queer content.

동성애 관련 콘텐츠를 검열하기 시작할 겁니다.

It'll start censoring legitimate public speech.

합법적인 대중을 향한 연설도 검열하기 시작할 겁니다.

What's allowed in these discourses,

이런 강연을 통해 전달할 수 있는 것들이,

it shouldn't be something that's left up to unaccountable systems.

책임의 소재가 없는 시스템에 의해 결정되어서는 안되겠죠.

It's part of a discussion all of us should be having.

우리 모두 토론해 봐야 할 문제 중 하나입니다.

But I'd leave a reminder

그런데 그에 대한 대안 조차도

that the alternative isn't very pleasant, either.

그다지 유쾌하지만은 않습니다.

YouTube also announced recently

유튜브에서 최근 발표한

that they're going to release a version of their kids' app

전적으로 사람에 의해 관리되는

that would be entirely moderated by humans.

새로운 아동용 어플입니다.

Facebook -- Zuckerberg said much the same thing at Congress,

페이스북의 '저커버그'도 국회 청문회에서 같은 말을 했죠.

when pressed about how they were going to moderate their stuff.

콘텐츠 관리에 대해 다그침을 받았을 때 말입니다.

He said they'd have humans doing it.

기계가 아닌 사람들이 그 일을 할 것이라고 했습니다.

And what that really means is,

그 말인 즉슨

instead of having toddlers being the first person to see this stuff,

이런 영상들을 먼저 접하던 아이들을 대신해

you're going to have underpaid, precarious contract workers

박봉에 불안정한 생활을 하고, 정신 건강을 위한 지원도 받지 못하며

without proper mental health support

이미 그런 영상들에 의해 피폐해진

being damaged by it as well.

계약직원들을 내세우는 것이죠.

(Laughter)

(웃음)

And I think we can all do quite a lot better than that.

우리 모두 이보단 훨씬 더 잘 할 수 있을 거라고 믿습니다.

(Applause)

(박수)

The thought, I think, that brings those two things together, really, for me,

제 생각에, 그 두가지 문제를 모두 해결하기 위해 필요한건

is agency.

바로 중재입니다.

It's like, how much do we really understand -- by agency, I mean:

제가 말하는 중재는 얼마나 우리가 이해하고 있고,

how we know how to act in our own best interests.

우리 스스로의 이익을 위해 행동하는 방식을 말합니다.

Which -- it's almost impossible to do

우리가 그 시스템을 제대로 이해하지 못한다면

in these systems that we don't really fully understand.

거의 불가능한 일이겠죠.

Inequality of power always leads to violence.

힘의 불균형은 언제나 폭력을 야기합니다.

And we can see inside these systems

이런 시스템 상에서도 마찬가지죠.

that inequality of understanding does the same thing.

이해의 불균형 역시 같은 결과를 초래합니다.

If there's one thing that we can do to start to improve these systems,

이런 시스템의 개선을 위한 한가지 방법이 있다면,

it's to make them more legible to the people who use them,

사용자들에게 더 쉽게 만들어,

so that all of us have a common understanding

어떤 일들이 벌어지는지

of what's actually going on here.

다 함께 이해하는 것입니다.

The thing, though, I think most about these systems

이 시스템들에 관련된 문제들이

is that this isn't, as I hope I've explained, really about YouTube.

제가 잘 설명을 했으면 하는데, 단지 유튜브에 국한된 것은 아니죠.

It's about everything.

세상 모든 일들에 연관되어 있습니다.

These issues of accountability and agency,

책임과 중재,

of opacity and complexity,

불투명함과 복잡함,

of the violence and exploitation that inherently results

폭력과, 소수에 집중된

from the concentration of power in a few hands --

권력으로부터의 착취 등이

these are much, much larger issues.

더욱 더 심각한 문제들입니다.

And they're issues not just of YouTube and not just of technology in general,

단지 유튜브와 과학기술 전반의 문제만이 아니죠.

and they're not even new.

사실 새로운 일도 아니고,

They've been with us for ages.

우리는 오랜동안 이런 문제들과 함께 했습니다.

But we finally built this system, this global system, the internet,

그런데, 결국 인터넷이라는 글로벌 시스템이 소개되면서,

that's actually showing them to us in this extraordinary way,

이런 현상들이 우리들에게 노출된 것입니다.

making them undeniable.

더이상 부정할 수 없게 말이죠.

Technology has this extraordinary capacity

과학기술의 힘은 정말 놀랍습니다.

to both instantiate and continue

때론 숨겨진 엄청난 욕망과 편견들을

all of our most extraordinary, often hidden desires and biases

예시하고 지속되게 하며,

and encoding them into the world,

그것들을 암호화해 세상에 뿌리기도 하죠.

but it also writes them down so that we can see them,

우리가 직접 볼 수 있도록, 글로 옮기기도 합니다.

so that we can't pretend they don't exist anymore.

우리가 그것들의 존재를 부인할 수 없도록 말이죠.

We need to stop thinking about technology as a solution to all of our problems,

과학기술이 모든 문제들을 해결해 줄 거라 생각하는 대신,

but think of it as a guide to what those problems actually are,

그 문제들을 파악하는 데 참고로 사용해야만,

so we can start thinking about them properly

정확한 판단을 하고,

and start to address them.

해결까지 할 수 있겠죠.

Thank you very much.

대단히 감사합니다.

(Applause)

(박수)

Thank you.

감사합니다.

(Applause)

(박수)

Helen Walters: James, thank you for coming and giving us that talk.

헬렌 월터스(Helen Walters): 제임스, 오늘 좋은 강연 감사드려요.

So it's interesting:

그러니까 흥미로운 건,

when you think about the films where the robotic overlords take over,

영화에 등장하는 로봇들이 지배하는 세상은

it's all a bit more glamorous than what you're describing.

지금 말씀하신 것보다 훨씬 더 매력적으로 느껴지기도 하는데요.

But I wonder -- in those films, you have the resistance mounting.

제가 궁금한건, 그런 영화에는 항상 저항세력이 등장하는데,

Is there a resistance mounting towards this stuff?

지금도 이런 추세에 저항하는 사람들이 있을까요?

Do you see any positive signs, green shoots of resistance?

어떤 긍정적인 움직임이나, 발전의 조짐 등이 보이나요?

James Bridle: I don't know about direct resistance,

제임스: 전면적인 저항이 있는지는 잘 모르겠어요.

because I think this stuff is super long-term.

장기적인 문제라고 생각해요.

I think it's baked into culture in really deep ways.

문화 속 깊이 뿌리내리고 있기 때문이죠.

A friend of mine, Eleanor Saitta, always says

엘레노어 사이터(Eleanor Saitta)란 제 친구는 항상 말합니다,

that any technological problems of sufficient scale and scope

어느 정도 영향력을 가진 과학기술에 관련된 문제들은

are political problems first of all.

우선 정치에 관련돼 있다는 거죠.

So all of these things we're working to address within this

그래서 우리가 해결하려는 이 모든 문제들은

are not going to be addressed just by building the technology better,

단순한 과학기술의 발전이 아니라,

but actually by changing the society that's producing these technologies.

이런 기술을 만들어 내는 사회를 변화시켜야 가능하단 거죠.

So no, right now, I think we've got a hell of a long way to go.

그래서 지금 당장은, 아직 갈 길이 멀다고 생각합니다.

But as I said, I think by unpacking them,

하지만 제가 말했듯이, 이 문제를 풀어 헤치고,

by explaining them, by talking about them super honestly,

밝혀내고, 솔직하게 토론하면서,

we can actually start to at least begin that process.

적어도 그 시작은 할 수 있다고 생각합니다.

HW: And so when you talk about legibility and digital literacy,

헬렌 : 그리고, 가독성과 디지털 문해력에 대한 얘기를 들으면서

I find it difficult to imagine

제가 상상하기 어려웠던 건,

that we need to place the burden of digital literacy on users themselves.

그 책임을 사용자들에게 지우는 것인데요.

But whose responsibility is education in this new world?

그럼 교육에 관한 책임은 새로운 이 세상 속 누구의 몫일까요?

JB: Again, I think this responsibility is kind of up to all of us,

제임스: 다시 말하지만, 우리 모두에게 있다고 생각해요.

that everything we do, everything we build, everything we make,

우리가 행하고, 구축하고, 만드는 모든 것들이

needs to be made in a consensual discussion

그것들을 회피하는 모든 이들도 대체로 동의하게 끔

with everyone who's avoiding it;

논의를 거쳐야 한다고 생각해요.

that we're not building systems intended to trick and surprise people

올바른 일을 하기 위해, 사람들을 속이고 경악케 하는

into doing the right thing,

시스템을 구축하진 않겠죠.

but that they're actually involved in every step in educating them,

그 교육의 모든 단계에 연관되어 있습니다.

because each of these systems is educational.

왜냐면 각각의 시스템으로부터 배울 것들이 있기 때문이죠.

That's what I'm hopeful about, about even this really grim stuff,

아주 우울한 문제지만, 바로 거기에 희망이 있습니다.

that if you can take it and look at it properly,

우리가 그것을 가져다 잘 살펴보면,

it's actually in itself a piece of education

그 자체가 일종의 교육이겠죠.

that allows you to start seeing how complex systems come together and work

복잡한 시스템들이 하나로 움직이는 방식을 보고,

and maybe be able to apply that knowledge elsewhere in the world.

아마도 그 지식을 세상 여러 곳에 활용할 수 있겠죠.

HW: James, it's such an important discussion,

헬렌 : 아주 중요한 문제이고,

and I know many people here are really open and prepared to have it,

많은 분들이 실제로 마음을 열고, 받아들일 준비가 되어 있는 것 같아요.

so thanks for starting off our morning.

아침부터 아주 좋은 시간 감사드립니다.

JB: Thanks very much. Cheers.

제임스 : 감사합니다.

(Applause)

(박수)