The nightmare videos of childrens' YouTube — and what's wrong with the internet today | James Bridle

翻訳: Yasushi Aoki 校正: Masako Kigami

I'm James.

私はジェームズ

I'm a writer and artist,

作家で芸術家で

and I make work about technology.

テクノロジーに関する作品を 作っています

I do things like draw life-size outlines of military drones

世界各地の街中に

実物大の軍用ドローンの輪郭を 描いたりしています

in city streets around the world,

so that people can start to think and get their heads around

こういう みんながあまり目にしたり 考えたりすることのないテクノロジーについて

these really quite hard-to-see and hard-to-think-about technologies.

考え 理解してもらえるように

I make things like neural networks that predict the results of elections

天気予報に基づいて 選挙結果を予測する

ニューラルネットなんかも 作っていますが

based on weather reports,

それは こういう 奇妙な新技術に

because I'm intrigued about

what the actual possibilities of these weird new technologies are.

本当のところどんな可能性があるかに 興味があるからです

Last year, I built my own self-driving car.

去年は自分で 自動運転車を作りました

But because I don't really trust technology,

私は技術というのを 信用していないので

I also designed a trap for it.

一緒に自動運転車用の 罠も作りました

(Laughter)

(笑)

And I do these things mostly because I find them completely fascinating,

私がそういったことをするのは 面白いと思うからですが

but also because I think when we talk about technology,

私達がテクノロジーの 話をするとき

we're largely talking about ourselves

それは概ね 私達自身のことや

and the way that we understand the world.

世界の理解の仕方についてだ ということもあります

So here's a story about technology.

ではひとつ テクノロジーの 話をしましょう

This is a "surprise egg" video.

これは「サプライズ・エッグ」の動画です

It's basically a video of someone opening up loads of chocolate eggs

基本的には ただひたすら チョコの卵を開けて

and showing the toys inside to the viewer.

中にあるオモチャを 見せるというものです

That's it. That's all it does for seven long minutes.

それだけです ７分間ずっとそうしています

And I want you to notice two things about this.

ここで２点ほど 注意してほしいことがあります

First of all, this video has 30 million views.

まず この動画の再生回数が ３千万回だということ

(Laughter)

(笑)

And the other thing is,

もうひとつは

it comes from a channel that has 6.3 million subscribers,

この動画のチャンネルには 630万人の購読者がいることです

that has a total of eight billion views,

動画の総視聴回数は 80億回にもなりますが

and it's all just more videos like this --

どれもがこれと 似たような動画です

30 million people watching a guy opening up these eggs.

３千万の人々が この人物が 卵を開けるのを見ているわけです

It sounds pretty weird, but if you search for "surprise eggs" on YouTube,

すごく変な話に 聞こえるでしょうが

YouTubeで「サプライズ・エッグ」(surprise eggs)を 検索すると １千万本あると出ます

it'll tell you there's 10 million of these videos,

これは実際より 少ないと思います

and I think that's an undercount.

I think there's way, way more of these.

それより ずっとたくさん あるでしょう

If you keep searching, they're endless.

検索していくと 際限なく出てきます

There's millions and millions of these videos

何百万という動画があり

in increasingly baroque combinations of brands and materials,

ブランドや素材の組み合わせが どんどん奇怪になっていきます

and there's more and more of them being uploaded every single day.

そして新たな動画が 毎日追加されています

Like, this is a strange world. Right?

まったく奇妙な世界です

But the thing is, it's not adults who are watching these videos.

問題は こういう動画を見ているのは 大人ではないことです

It's kids, small children.

小さな子供なんです

These videos are like crack for little kids.

こういう動画は小さな子供にとって 麻薬みたいなものです

There's something about the repetition,

繰り返しに 何かあるらしく

the constant little dopamine hit of the reveal,

明かされるたびに 小さなドーパミンの刺激があって

that completely hooks them in.

すっかり惹き付けられて しまうんです

And little kids watch these videos over and over and over again,

小さな子供はこういう動画を 何度も繰り返して再生し

何時間でも見続けます

and they do it for hours and hours and hours.

And if you try and take the screen away from them,

取り上げようと しようものなら

they'll scream and scream and scream.

泣き喚いて 手が付けられません

If you don't believe me --

信じられないと言うなら—

and I've already seen people in the audience nodding --

客席に頷いている方がいますが

小さな子供がいる人に 聞いてみてください

if you don't believe me, find someone with small children and ask them,

サプライズ・エッグの動画を 知っているはずです

and they'll know about the surprise egg videos.

これが出発点です

So this is where we start.

It's 2018, and someone, or lots of people,

2018年現在

皆さんにアプリを チェックし続けさせるために

are using the same mechanism that, like, Facebook and Instagram are using

FacebookやInstagramが 使っているのと同じ仕掛けを

to get you to keep checking that app,

and they're using it on YouTube to hack the brains of very small children

YouTubeに適用して 小さな子供の頭を弄び

in return for advertising revenue.

広告収入を得ようとしている人が たくさんいるんです

At least, I hope that's what they're doing.

少なくとも そうなのだと 思いたいです

I hope that's what they're doing it for,

because there's easier ways of making ad revenue on YouTube.

というのも YouTubeで 広告収入を得るためなら

もっと簡単な方法が ありますから

You can just make stuff up or steal stuff.

単にでっち上げるか 盗むかすればいいんです

So if you search for really popular kids' cartoons

「ペッパ・ピッグ」や 「ポー・パトロール」のような

like "Peppa Pig" or "Paw Patrol,"

子供に人気の アニメを検索すると

you'll find there's millions and millions of these online as well.

何百万という動画が 見つかります

Of course, most of them aren't posted by the original content creators.

そのほとんどは本当の作者が アップロードしたものではありません

They come from loads and loads of different random accounts,

山ほどの雑多なアカウントから 投稿されていて

and it's impossible to know who's posting them

誰がやっているのか 分からないし

その動機も分かりません

or what their motives might be.

Does that sound kind of familiar?

聞いたことのあるような話ですね

Because it's exactly the same mechanism

まったく同じことが

that's happening across most of our digital services,

多くのデジタルサービスで 起きていて

where it's impossible to know where this information is coming from.

情報がどこから来ているのか 分からないのです

It's basically fake news for kids,

いわば子供のための フェイクニュースです

and we're training them from birth

子供達は生まれた時から

to click on the very first link that comes along,

出てくる最初のリンクを その出所を問わずクリックするよう

regardless of what the source is.

慣らされているのです

That's doesn't seem like a terribly good idea.

あまり良い考えとは 思えませんが

Here's another thing that's really big on kids' YouTube.

これはまた別の すごく有名な 子供向けYouTube動画です

This is called the "Finger Family Song."

「フィンガー・ファミリーの歌」です

客席からうめきが 聞こえますね

I just heard someone groan in the audience.

こちらがオリジナルらしく

This is the "Finger Family Song."

This is the very first one I could find.

私に見付けられた 最初のものです

It's from 2007, and it only has 200,000 views,

2007年に公開され 視聴回数は20万回

which is, like, nothing in this game.

この分野では 微々たるものです

But it has this insanely earwormy tune,

耳から離れない音楽が 付いていますが

which I'm not going to play to you,

ここでお聴かせはしません

because it will sear itself into your brain

頭にこびりついて 離れなくなりますから

in the same way that it seared itself into mine,

私はそうなったので

皆さんを同じ目に 遭わせようとは思いません

and I'm not going to do that to you.

But like the surprise eggs,

サプライズ・エッグと同じように

it's got inside kids' heads

子供の頭に入り込んで

and addicted them to it.

中毒にします

So within a few years, these finger family videos

数年のうちに

フィンガー・ファミリーの動画が 至る所に現れ始めました

start appearing everywhere,

and you get versions in different languages

いろいろ変種があって 外国語版もあれば

with popular kids' cartoons using food

人気の漫画キャラや 食べ物を使ったものもあり

or, frankly, using whatever kind of animation elements

その辺にあるアニメの要素を

you seem to have lying around.

何でも使っています

And once again, there are millions and millions and millions of these videos

このような ありとあらゆる 突拍子のない取り合わせの動画が

available online in all of these kind of insane combinations.

ネット上に山ほどあるんです

And the more time you start to spend with them,

そういうものを見始めると

the crazier and crazier you start to feel that you might be.

だんだん自分の気が狂っているような 感じがしてきます

And that's where I kind of launched into this,

私がこういうものを 調べ始めたのは

この深い奇妙さの 感覚のためであり

that feeling of deep strangeness and deep lack of understanding

of how this thing was constructed that seems to be presented around me.

それがどうやって作られているのか あまりに謎だったからです

Because it's impossible to know where these things are coming from.

これがどこからやってくるのか 知りようがありません

いったい誰が作っているのか？

Like, who is making them?

Some of them appear to be made of teams of professional animators.

プロのアニメーターの作のように 見えるものもあれば

Some of them are just randomly assembled by software.

ソフトウェアでただランダムに 合成されたように見えるものもあり

Some of them are quite wholesome-looking young kids' entertainers.

すごく健全な歌のお姉さん風の人が 出て来るものもあれば

And some of them are from people

子供にはまったく近寄らせるべきでないような 人々によるものもあります

who really clearly shouldn't be around children at all.

(Laughter)

(笑)

And once again, this impossibility of figuring out who's making this stuff --

誰が作っているのか 見当が付かないのです

like, this is a bot?

ボットなのか

Is this a person? Is this a troll?

人間なのか トロールなのか

What does it mean that we can't tell the difference

そういう違いがもはや 分からないというのは

between these things anymore?

何を意味するのか？

And again, doesn't that uncertainty feel kind of familiar right now?

この不確かさには 馴染みのある 感じが しないでしょうか？

So the main way people get views on their videos --

動画の視聴者を集める 主なやり方は—

and remember, views mean money --

視聴はお金を 意味するわけですが—

is that they stuff the titles of these videos with these popular terms.

タイトルに人気の言葉を 入れるというものです

So you take, like, "surprise eggs"

たとえば「サプライズ・エッグ」に

and then you add "Paw Patrol," "Easter egg,"

「ポー・パトロール」とか 「イースター・エッグ」とか

or whatever these things are,

何であれ他の人気動画の

all of these words from other popular videos into your title,

キーワードを付け加えるんです

そうしていくと意味のない 言葉の寄せ集めになって

until you end up with this kind of meaningless mash of language

that doesn't make sense to humans at all.

人間には意味をなさない ものになりますが

Because of course it's only really tiny kids who are watching your video,

こういう動画を見るのは 小さな子供なので

and what the hell do they know?

どの道関係ありません

Your real audience for this stuff is software.

これらのものの真の視聴者は ソフトウェア—

It's the algorithms.

アルゴリズムなんです

It's the software that YouTube uses

動画をおすすめし 人気にしてくれる

to select which videos are like other videos,

似たビデオを選ぶ YouTubeのプログラムが

to make them popular, to make them recommended.

ターゲットなんです

And that's why you end up with this kind of completely meaningless mash,

そうやってタイトルも内容も 意味のない

both of title and of content.

混合物の動画が 出来上がります

But the thing is, you have to remember,

でも このアルゴリズム的に 最適化されたシステムの中にも

there really are still people within this algorithmically optimized system,

依然として本物の人間がいることを 忘れてはいけません

people who are kind of increasingly forced to act out

ますます奇抜になっていく 言葉の組み合わせに合わせて

these increasingly bizarre combinations of words,

演じることを強いられる 人々がいます

like a desperate improvisation artist responding to the combined screams

無数の幼児が同時に叫ぶ 言葉の組み合わせに

必死になって応じる 即興芸人みたいなものです

of a million toddlers at once.

There are real people trapped within these systems,

このシステムの中に 囚われている人々がいるんです

and that's the other deeply strange thing about this algorithmically driven culture,

このアルゴリズム駆動の文化の 奇妙なところは

because even if you're human,

ただ生き残るために

you have to end up behaving like a machine

人間が機械のように 振る舞うことになる点です

just to survive.

そしてまた画面の反対側には

And also, on the other side of the screen,

there still are these little kids watching this stuff,

見ている小さな子供達がいて

stuck, their full attention grabbed by these weird mechanisms.

この奇妙なメカニズムに 心を奪われています

And most of these kids are too small to even use a website.

そういう子供達の多くは小さくて ウェブサイトの使い方も分かりません

They're just kind of hammering on the screen with their little hands.

小さな手で ただ画面を叩くだけです

And so there's autoplay,

自動再生機能によって

where it just keeps playing these videos over and over and over in a loop,

こういう動画が 繰り返し繰り返し

endlessly for hours and hours at a time.

何時間も再生され続けます

And there's so much weirdness in the system now

このシステムが 本当に変なのは

that autoplay takes you to some pretty strange places.

自動再生によって すごく奇妙なところへと 連れて行かれることです

This is how, within a dozen steps,

この例では 数を数える汽車の かわいい動画から始まって

you can go from a cute video of a counting train

10ステップほどで

to masturbating Mickey Mouse.

マスターベーションする ミッキーマウスに至っています

Yeah. I'm sorry about that.

失敬しました

This does get worse.

でも これはもっと酷くなります

This is what happens

雑多なキーワードと

when all of these different keywords,

断片的な注目と

all these different pieces of attention,

やけくそのコンテンツ生成を

this desperate generation of content,

ひとまとめにしたときに 起きるのは

all comes together into a single place.

そういうことなんです

This is where all those deeply weird keywords come home to roost.

奇妙なキーワードの 連鎖が導く先です

You cross-breed the finger family video

フィンガー・ファミリーの動画に

with some live-action superhero stuff,

特撮ヒーローと

you add in some weird, trollish in-jokes or something,

奇妙なトロール的 内輪ネタなんかを加えると

and suddenly, you come to a very weird place indeed.

ものすごく変な場所に至ります

The stuff that tends to upset parents

子供の親を怒らせるのは

is the stuff that has kind of violent or sexual content, right?

暴力的なものや 性的なものです

Children's cartoons getting assaulted,

子供向けアニメのキャラが

getting killed,

襲われ 殺され

weird pranks that actually genuinely terrify children.

子供をただ怯えさせるような おふざけが展開されます

What you have is software pulling in all of these different influences

そういったあらゆる刺激的なものを ソフトウェアが寄せ集めて

to automatically generate kids' worst nightmares.

子供にとって最悪の悪夢を 生成しているんです

And this stuff really, really does affect small children.

そういうものは実際に 子供に影響を与えます

Parents report their children being traumatized,

親御さんたちが報告しています 子供が心に傷を負ったとか

becoming afraid of the dark,

暗闇を恐れるようになったとか

becoming afraid of their favorite cartoon characters.

好きだったアニメキャラを 怖がるようになったと

If you take one thing away from this, it's that if you have small children,

ここから１つ 学ぶことがあるとしたら

小さなお子さんがいるなら YouTubeには近寄るなということです

keep them the hell away from YouTube.

(Applause)

(拍手)

But the other thing, the thing that really gets to me about this,

私を悩ませる もう１つのことは

is that I'm not sure we even really understand how we got to this point.

どうやって こんなことになったのか 私達が分かっていないということです

We've taken all of this influence, all of these things,

あらゆる影響力 こういう ありとあらゆるものを取り上げ

and munged them together in a way that no one really intended.

誰も意図しなかったような仕方で まとめられていますが

And yet, this is also the way that we're building the entire world.

それはまた 私達が世界全体を 作っている方法でもあります

We're taking all of this data,

あらゆるデータ

a lot of it bad data,

沢山のまずいデータや

a lot of historical data full of prejudice,

偏見に満ち 最悪の衝動に満ちた

full of all of our worst impulses of history,

歴史的データを集めて

and we're building that into huge data sets

巨大なデータセットを作り

and then we're automating it.

自動化しているのです

And we're munging it together into things like credit reports,

それをまとめて 信用調査や

into insurance premiums,

保険料や

into things like predictive policing systems,

犯罪予測や

into sentencing guidelines.

量刑基準みたいなことに 使っています

This is the way we're actually constructing the world today

今日の世界は データを使って

実際そのように 作られているのです

out of this data.

And I don't know what's worse,

どちらがより悪いことなのか 分かりません

that we built a system that seems to be entirely optimized

人間の行動の最悪な面に 最適化されたシステムを

for the absolute worst aspects of human behavior,

意図して作ったのか

or that we seem to have done it by accident,

それとも 何をしているのか 分からずに

without even realizing that we were doing it,

偶然そうなってしまったのか—

because we didn't really understand the systems that we were building,

自分の作っているシステムを 理解しておらず

and we didn't really understand how to do anything differently with it.

他のやり方が 分からなかったために

There's a couple of things I think that really seem to be driving this

それが特にYouTube上で 甚だしく起きているのには

２つの要因があります

most fully on YouTube,

and the first of those is advertising,

ひとつは関心の 収益化である広告で

which is the monetization of attention

without any real other variables at work,

実質的に他の要因が 働いておらず

any care for the people who are actually developing this content,

コンテンツを実際に 作っている人への配慮がなく

the centralization of the power, the separation of those things.

権力の集中も分離もない ということです

And I think however you feel about the use of advertising

広告で利益を 得ることについて

どう思っているにせよ

to kind of support stuff,

the sight of grown men in diapers rolling around in the sand

オムツを履いた大の大人が 砂の上を転がり回って

in the hope that an algorithm that they don't really understand

本当には理解していない アルゴリズムが

お金をくれることを 期待しているという光景は

will give them money for it

suggests that this probably isn't the thing

これが社会や文化の 基盤とすべきものでも

that we should be basing our society and culture upon,

資金を得るべき方法でもないことを 示しているでしょう

and the way in which we should be funding it.

And the other thing that's kind of the major driver of this is automation,

主要なもう１つの要因は 自動化です

やって来たらすぐに

which is the deployment of all of this technology

何のチェックもなしに 展開して

as soon as it arrives, without any kind of oversight,

and then once it's out there,

出した後は 手を挙げて言うんです

kind of throwing up our hands and going, "Hey, it's not us, it's the technology."

「俺のせいじゃない テクノロジーがやったことだ」と

Like, "We're not involved in it."

「俺たちは関係ない」 とでも言うように

That's not really good enough,

それでは不十分です

because this stuff isn't just algorithmically governed,

こういったものはアルゴリズムで 管理されているだけでなく

it's also algorithmically policed.

アルゴリズムで検閲も されているからです

When YouTube first started to pay attention to this,

YouTubeがこういう問題に 注意を向け始めたとき

the first thing they said they'd do about it

彼らが言ったのは

was that they'd deploy better machine learning algorithms

もっと良い機械学習 アルゴリズムを用意して

to moderate the content.

内容をチェックする ということでした

Well, machine learning, as any expert in it will tell you,

専門家なら みんな言うでしょうが

is basically what we've started to call

機械学習というのは

どういう仕組みで動いているのか よく分からないソフトウェアのことです

software that we don't really understand how it works.

And I think we have enough of that already.

そういうのは もう十分にあります

何が適切かの判断を

We shouldn't be leaving this stuff up to AI to decide

AI にまかせておくべき ではありません

what's appropriate or not,

because we know what happens.

どんなことが起こるか 分かっていますから

It'll start censoring other things.

他のものも 検閲し始めるでしょう

It'll start censoring queer content.

奇妙な内容のものを検閲し

It'll start censoring legitimate public speech.

ちゃんとした演説も 検閲し始めるでしょう

What's allowed in these discourses,

どんな言論が許されるかは

it shouldn't be something that's left up to unaccountable systems.

無責任なシステムに まかせておくべき問題ではありません

It's part of a discussion all of us should be having.

私達みんなが 議論すべきことです

But I'd leave a reminder

しかし代替案もまた

that the alternative isn't very pleasant, either.

あまり芳しいものでないことを 指摘しておきます

YouTube also announced recently

すべて人間によって チェックした

that they're going to release a version of their kids' app

子供向けのアプリを出すと

最近YouTubeが アナウンスしました

that would be entirely moderated by humans.

Facebook -- Zuckerberg said much the same thing at Congress,

Facebookも ザッカーバーグが 議会で同じようなことを

when pressed about how they were going to moderate their stuff.

モデレーションについて 聞かれたときに答えました

He said they'd have humans doing it.

そのための人間を用意すると

And what that really means is,

それが意味するのは

そういうものを最初に 目にすることになるのが

instead of having toddlers being the first person to see this stuff,

幼児の代わりに 低賃金で不安定な契約社員になり

you're going to have underpaid, precarious contract workers

メンタルヘルス面での 支援もなく

without proper mental health support

being damaged by it as well.

被害を受けるということです

(Laughter)

(笑)

もっとマシなことが できるはずです

And I think we can all do quite a lot better than that.

(Applause)

(拍手)

The thought, I think, that brings those two things together, really, for me,

この２つのことを まとめる考えは

エージェンシーだと思います

is agency.

どれだけ本当に 理解しているかということ

It's like, how much do we really understand -- by agency, I mean:

how we know how to act in our own best interests.

最善の利益のため どう行動すればいいか いかに分かっているかということです

Which -- it's almost impossible to do

こういう あまり理解していない システムにおいては

in these systems that we don't really fully understand.

ほとんど不可能なことです

力の不均衡は 暴力に繋がります

Inequality of power always leads to violence.

And we can see inside these systems

こういったシステムの中では

that inequality of understanding does the same thing.

理解の不均衡が 同じ結果を生みます

If there's one thing that we can do to start to improve these systems,

こういうシステムを改善するために できることが１つあるとしたら

it's to make them more legible to the people who use them,

使う人々にもっと分かるものにする ということです

so that all of us have a common understanding

何が起きているのか

みんな共通の理解を 得られるように

of what's actually going on here.

The thing, though, I think most about these systems

こういったシステムの問題は 前に言いましたように

is that this isn't, as I hope I've explained, really about YouTube.

YouTubeに限ったこと ではありません

It's about everything.

あらゆるものに 当てはまります

These issues of accountability and agency,

説明責任やエージェンシー

of opacity and complexity,

透明性や複雑さ

of the violence and exploitation that inherently results

暴力や搾取といった問題は

from the concentration of power in a few hands --

力が一部に集中していることの 結果であり

these are much, much larger issues.

それはずっと 大きな問題なのです

And they're issues not just of YouTube and not just of technology in general,

YouTubeだけの問題ではないし テクノロジーだけの問題でもなく

新しい問題でさえありません

and they're not even new.

They've been with us for ages.

ずっと昔からあったことです

But we finally built this system, this global system, the internet,

ただ我々がこの世界的なシステム インターネットを作ったことで

that's actually showing them to us in this extraordinary way,

極端な形で現れるようになり

making them undeniable.

否定し得なくなった というだけです

Technology has this extraordinary capacity

テクノロジーには ものすごい力があり

to both instantiate and continue

我々の最も甚だしい 隠された欲望や偏見に

all of our most extraordinary, often hidden desires and biases

形を与え継続させ

世界に刻みつけているのです

and encoding them into the world,

but it also writes them down so that we can see them,

しかし書き出されることで 目に見えるようになり

so that we can't pretend they don't exist anymore.

もはや存在しないフリは できなくなりました

We need to stop thinking about technology as a solution to all of our problems,

テクノロジーがあらゆる問題への 解決法だと思うのはやめて

but think of it as a guide to what those problems actually are,

問題が実際どういうものか知るための ガイドと考える必要があります

so we can start thinking about them properly

そうすれば 問題を適切に捉え

and start to address them.

取り組み始める ことができるでしょう

Thank you very much.

ありがとうございました

(Applause)

(拍手)

Thank you.

ありがとうございます

(Applause)

(拍手)

Helen Walters: James, thank you for coming and giving us that talk.

(ヘレン・ウォルターズ) ジェームズ お話をありがとうございました

興味深いですね

So it's interesting:

when you think about the films where the robotic overlords take over,

人類がコンピューターに 支配される映画は

it's all a bit more glamorous than what you're describing.

あなたのお話よりも 華々しいですが

そういう映画ではいつも レジスタンスが立ち上がります

But I wonder -- in those films, you have the resistance mounting.

Is there a resistance mounting towards this stuff?

この問題に対して立ち上がる レジスタンスというのは いるのでしょうか？

Do you see any positive signs, green shoots of resistance?

抵抗が芽生える兆候に お気づきですか？

James Bridle: I don't know about direct resistance,

(ジェームズ・ブライドル) 直接的な抵抗というのは知りません

because I think this stuff is super long-term.

これはとても長期にわたる問題で

I think it's baked into culture in really deep ways.

文化の中にすごく深く 入り込んでいます

A friend of mine, Eleanor Saitta, always says

友人のエレノア・サイッタが いつも言っていますが

that any technological problems of sufficient scale and scope

十分大きなスケールと範囲を持つ テクノロジーの問題は

are political problems first of all.

何よりもまず政治的問題なのです

So all of these things we're working to address within this

この問題に対処するため やるべきことは

are not going to be addressed just by building the technology better,

単により良いテクノロジーを 作るということではなく

そういうテクノロジーを生み出す社会を 変えるということでしょう

but actually by changing the society that's producing these technologies.

今はまだありません 道はものすごく長いと思います

So no, right now, I think we've got a hell of a long way to go.

But as I said, I think by unpacking them,

しかし言いましたように

これを紐解き 説明し すごく率直に話すことで

by explaining them, by talking about them super honestly,

少なくとも そのプロセスを 始めることはできます

we can actually start to at least begin that process.

HW: And so when you talk about legibility and digital literacy,

(ヘレン) 判読可能性や デジタル・リテラシーに触れたとき

I find it difficult to imagine

デジタル・リテラシーの重荷を ユーザー自身に負わせるというのは

that we need to place the burden of digital literacy on users themselves.

難しいのではと思いました

But whose responsibility is education in this new world?

この新しい世界において 教育は誰の責任になるのでしょう？

JB: Again, I think this responsibility is kind of up to all of us,

(ジェームズ) 繰り返しになりますが 責任は私達すべてにかかっています

that everything we do, everything we build, everything we make,

私達のすることすべて 私達の作る物すべてが

needs to be made in a consensual discussion

すべての人の議論による 同意のもと

with everyone who's avoiding it;

作られる必要があります

that we're not building systems intended to trick and surprise people

正しいことを

引っかけたり驚くような仕方で やらせようとするのではなく

into doing the right thing,

みんなが教育の各段階に 関わる必要があります

but that they're actually involved in every step in educating them,

because each of these systems is educational.

そういうシステムは 教育的なものですから

That's what I'm hopeful about, about even this really grim stuff,

そこが この滅入る問題に対し 私が希望を持っているところです

that if you can take it and look at it properly,

取り上げて 正しく見ることができるなら

it's actually in itself a piece of education

そこに学べるものがあり

that allows you to start seeing how complex systems come together and work

複雑なシステムがどのように 出来上がるものか知ることができ

and maybe be able to apply that knowledge elsewhere in the world.

その知識は他の所でも 役立つかもしれません

HW: James, it's such an important discussion,

(ヘレン) とても大切な 話題だと思います

and I know many people here are really open and prepared to have it,

ここにいる人の多くが 積極的に加わってくれるでしょう

朝一番に素晴らしい話を ありがとうございました

so thanks for starting off our morning.

JB: Thanks very much. Cheers.

(ジェームズ) こちらこそ ありがとうございました

(Applause)

(拍手)