How we need to remake the internet | Jaron Lanier

翻訳: Eriko T 校正: Tomoyuki Suzuki

Back in the 1980s, actually, I gave my first talk at TED,

1980年代に私は初めて TEDで講演しましたが

and I brought some of the very, very first public demonstrations

世界で最初のVR（仮想現実）のデモを

of virtual reality ever to the TED stage.

TEDの舞台でいくつか披露しました

And at that time, we knew that we were facing a knife-edge future

当時 私たちは 未来は危うい状況にあり

where the technology we needed,

私たちが必要とし

the technology we loved,

愛したテクノロジーが

could also be our undoing.

私たちを破滅に導くかもしれないと 気づいていました

We knew that if we thought of our technology

私たちは もしテクノロジーを

as a means to ever more power,

権力を手にする道具だと考え 権力を握ること自体が目的化したら

if it was just a power trip, we'd eventually destroy ourselves.

人類は自滅するだろうと わかっていました

That's what happens

権力だけを追求すると

when you're on a power trip and nothing else.

そうなるものです

So the idealism

当時のデジタル・カルチャーの 理想は

of digital culture back then

was all about starting with that recognition of the possible darkness

何よりもまず この闇へ陥る可能性を認識した上で

and trying to imagine a way to transcend it

それを美や創造性で乗り越える方法を

with beauty and creativity.

模索することだったのです

I always used to end my early TED Talks with a rather horrifying line, which is,

私はいつも自分のTEDトークを やや恐怖感を煽る文句で締めくくりました

"We have a challenge.

「私たちには課題があります

We have to create a culture around technology

テクノロジーの周辺に

that is so beautiful, so meaningful,

美しく 意義深く

so deep, so endlessly creative,

深淵で 終わりなき創造性と

so filled with infinite potential

無限の可能性に溢れた カルチャーを生み出し

that it draws us away from committing mass suicide."

我々を自滅の道から救わなければ」

So we talked about extinction as being one and the same

つまり 我々の絶滅と 魅惑的で無限の創造性に満ちた—

as the need to create an alluring, infinitely creative future.

未来を創る必要性を 表裏一体のものとして語ったんです

And I still believe that that alternative of creativity

今でも 人類の滅亡にとって代わるものが

as an alternative to death

創造性であるという考えは

is very real and true,

とても現実的であり 正しい考えだと思っています

maybe the most true thing there is.

これはおそらく最も確かな真実でしょう

In the case of virtual reality --

VRに関しては

well, the way I used to talk about it

私はこんな風に言っていたものです

is that it would be something like

「人類が言葉を発見したときのようなことが 起こるだろう」

what happened when people discovered language.

With language came new adventures, new depth, new meaning,

言葉のお陰で 新しい冒険や 新たな深み、新しい意味

new ways to connect, new ways to coordinate,

新しい交流の方法 新しい協力の方法

new ways to imagine, new ways to raise children,

想像の方法や 子供を育てる方法が生まれましたが

and I imagined, with virtual reality, we'd have this new thing

VRによって 会話のようなものでありつつも

that would be like a conversation

but also like waking-state intentional dreaming.

覚醒しながら意識的に夢を見るような 新たなものが生まれると想像していました

We called it post-symbolic communication,

それをこう呼びました 「ポスト記号的コミュニケーション」

because it would be like just directly making the thing you experienced

記号を使って何かを間接的に 言い表す代わりに

instead of indirectly making symbols to refer to things.

VRは 体験を直接表現する ようなものだからです

It was a beautiful vision, and it's one I still believe in,

それは美しいビジョンで 私は今もそれを信じています

and yet, haunting that beautiful vision

ですが その美しいビジョンを 脅かしたのは

was the dark side of how it could also turn out.

そのビジョンが陥る可能性のある 暗黒面でした

And I suppose I could mention

ある先駆的コンピューター・ サイエンティストについて

from one of the very earliest computer scientists,

お話ししてみようと思います

whose name was Norbert Wiener,

ノーバート・ウィナーという人で

and he wrote a book back in the '50s, from before I was even born,

私が生まれる前の1950年代に

called "The Human Use of Human Beings."

『人間機械論』という本を 著しました

And in the book, he described the potential

その中で彼は

to create a computer system that would be gathering data from people

人々からデータを収集し 即時にフィードバックをする

and providing feedback to those people in real time

コンピューター・システムを作る 可能性を述べていました

in order to put them kind of partially, statistically, in a Skinner box,

これは行動主義者が考え出した装置 スキナー箱に人々を入れるようなものですが

in a behaviorist system,

データは統計学的に分析されます

and he has this amazing line where he says,

彼が言った卓越した一節に こういうものがあります

one could imagine, as a thought experiment --

「思考実験として こう想像できる—」

and I'm paraphrasing, this isn't a quote --

これは引用ではなく 私が言い換えていますが

one could imagine a global computer system

「世界規模の コンピューター・システムを想像できる

where everybody has devices on them all the time,

そこでは誰もが常時デバイスを身につけ

and the devices are giving them feedback based on what they did,

デバイスが彼らの行動に基づき フィードバックを与える

and the whole population

そして全人類が

is subject to a degree of behavior modification.

ある程度の行動変容をさせられるようになる

And such a society would be insane,

そして そのような社会は狂っていて

could not survive, could not face its problems.

存続も 社会問題の解決も ままならないだろう」

And then he says, but this is only a thought experiment,

そしてこう続きます 「しかしこれは思考実験に過ぎず

and such a future is technologically infeasible.

そんな未来は技術的に実現不可能である」

(Laughter)

（笑）

And yet, of course, it's what we have created,

でも もちろん そんな技術を 作り出してしまったのですから

and it's what we must undo if we are to survive.

人類の存続のために 取り消さなければならないのです

So --

つまり

(Applause)

（拍手）

I believe that we made a very particular mistake,

人類は 非常に特殊な間違いを

and it happened early on,

初期の頃に犯してしまったのだと 思います

and by understanding the mistake we made,

そして犯してしまった間違いを 理解することで

we can undo it.

それを正すことができます

It happened in the '90s,

その間違いは1990年代に起こり

and going into the turn of the century,

まさに世紀末に差し掛かる頃でした

and here's what happened.

こういうことです

Early digital culture,

黎明期のデジタル・カルチャーには

and indeed, digital culture to this day,

― 実のところ 現在もそうですが ―

had a sense of, I would say, lefty, socialist mission about it,

左派的、社会主義的使命感が あったと思います

that unlike other things that have been done,

それは本の発明などの

like the invention of books,

他の発明には無かったもので

everything on the internet must be purely public,

インターネット上の全てのものは 大衆に自由に公開され

must be available for free,

無料で提供されるべきだというものです

because if even one person cannot afford it,

なぜなら 経済的な原因で アクセスできない人が一人でもいれば

then that would create this terrible inequity.

それが甚だしい不平等を 生み出すからです

Now of course, there's other ways to deal with that.

さてもちろん それを解消するには他にも方法があります

If books cost money, you can have public libraries.

本が高価なら 図書館に行けば良い

And so forth.

などなどです

But we were thinking, no, no, no, this is an exception.

でも私たちは 「いやいや これは特別なもので

This must be pure public commons, that's what we want.

純粋に共有空間にすべきなんだ」と 考えていました

And so that spirit lives on.

その精神は今も生きていて

You can experience it in designs like the Wikipedia, for instance,

ウィキペディアや多くのものの仕組みに

many others.

それを見ることができます

But at the same time,

ですが同時に

we also believed, with equal fervor,

私たちは同じ程度の情熱で

in this other thing that was completely incompatible,

これとは完全に相入れないものを もう一つ信じていました

which is we loved our tech entrepreneurs.

テクノロジー起業家達です

We loved Steve Jobs; we loved this Nietzschean myth

私たちはスティーブ・ジョブズを崇め

of the techie who could dent the universe.

技術オタクが世界に風穴を開けるという ニーチェ的神話を愛しました

Right?

そうでしたね？

And that mythical power still has a hold on us, as well.

その神秘的な力は 未だに影響を及ぼし続けています

So you have these two different passions,

そう これらの２つの異なるものへの 情熱があるのです

for making everything free

「あらゆるものを無料に」

and for the almost supernatural power of the tech entrepreneur.

「まるで超自然的な力を持つテック起業家」

How do you celebrate entrepreneurship when everything's free?

全てが無料だとしたら 起業家精神は どのような報酬で報いられるのでしょう？

Well, there was only one solution back then,

その当時は広告モデルしか その方法が無かったんです

which was the advertising model.

And so therefore, Google was born free, with ads,

それでGoogleが無料サービスとして 広告モデルを携えて誕生しました

Facebook was born free, with ads.

Facebookも然り

Now in the beginning, it was cute,

初めは— それはごく初期のGoogleのように

like with the very earliest Google.

カワイイものでした

(Laughter)

（笑）

The ads really were kind of ads.

それはごく当たり前の広告で

They would be, like, your local dentist or something.

地域の歯医者さんの宣伝なんかでした

But there's thing called Moore's law

しかし「ムーアの法則」 というものに従い

that makes the computers more and more efficient and cheaper.

コンピューターの性能がどんどん上がり 価格は下がっていきます

Their algorithms get better.

アルゴリズムも向上していきます

We actually have universities where people study them,

大学の研究者によって

and they get better and better.

アルゴリズムはどんどん進化します

And the customers and other entities who use these systems

システムを使う顧客や企業などは

just got more and more experienced and got cleverer and cleverer.

経験値を高め 知恵をつけていきました

And what started out as advertising

そうして単なるネットの広告だったものは

really can't be called advertising anymore.

もはやそう呼べないものに進化し

It turned into behavior modification,

行動変容装置へと進化しました

just as Norbert Wiener had worried it might.

ノーバート・ウィーナーが 憂慮したとおりのことが起きたのです

And so I can't call these things social networks anymore.

もはや これは 「ソーシャル・ネットワーク」と呼べず

I call them behavior modification empires.

私は「行動変容帝国」と呼んでいます

(Applause)

（拍手）

And I refuse to vilify the individuals.

特定の個人を非難する気はありません

I have dear friends at these companies,

テック企業には大事な友人がいるんです

sold a company to Google, even though I think it's one of these empires.

Googleに会社を売却したりして— それも帝国の一つですが

I don't think this is a matter of bad people who've done a bad thing.

これは「悪人たちが悪事を働いた」 といったようなことではなく

I think this is a matter of a globally tragic,

世界的規模で起きた 悲劇的で

astoundingly ridiculous mistake,

驚くほど馬鹿げた 間違いだと思っています

rather than a wave of evil.

悪の波が押し寄せた なんてものではありません

Let me give you just another layer of detail

この特殊な間違いの仕組みを

into how this particular mistake functions.

もう一段 詳しく説明しましょう

So with behaviorism,

行動主義の考えに従い

you give the creature, whether it's a rat or a dog or a person,

ネズミであれ 犬であれ 人であれ 生き物に対し

little treats and sometimes little punishments

ちょっとしたご褒美や 時には罰を

as feedback to what they do.

行動へのフィードバックとして与えます

So if you have an animal in a cage, it might be candy and electric shocks.

檻に入った動物だったら キャンディーや電気ショックを与えますが

But if you have a smartphone,

スマートフォンをもった人に対しては

it's not those things, it's symbolic punishment and reward.

そういうものの代わりに 罰や報酬を象徴で与えます

Pavlov, one of the early behaviorists,

初期の行動主義者だったパブロフは

demonstrated the famous principle.

有名な原理を証明しました

You could train a dog to salivate just with the bell, just with the symbol.

ベルを鳴らすだけで犬に涎を 垂らさせたのです 象徴への反応です

So on social networks,

ソーシャル・ネットワークでは

social punishment and social reward function as the punishment and reward.

社会的賞罰が 報酬や罰として機能します

And we all know the feeling of these things.

皆さんがご存知の あの気持ちです

You get this little thrill --

皆さんはこんなスリルを感じます

"Somebody liked my stuff and it's being repeated."

「誰かが私の投稿をいいねした いいねが伸びてる！」

Or the punishment: "Oh my God, they don't like me,

あるいは罰の方 「ああ 私は人気が無い

maybe somebody else is more popular, oh my God."

もっと人気のある人がいるんだな」

So you have those two very common feelings,

皆に共通する このような２つの感情が

and they're doled out in such a way that you get caught in this loop.

少しずつ与えられ 皆さんはループに囚われてしまいます

As has been publicly acknowledged by many of the founders of the system,

これはシステムの創始者たちの多くが 公に認めていることです

everybody knew this is what was going on.

誰もがこの事態を理解しています

But here's the thing:

しかし

traditionally, in the academic study of the methods of behaviorism,

行動主義の学術研究においては 伝統的に

there have been comparisons of positive and negative stimuli.

ネガティブとポジティブ刺激を 比較してきました

In this setting, a commercial setting,

ところが この商業的環境では

there's a new kind of difference

学問の世界では しばらく注目されてこなかった

that has kind of evaded the academic world for a while,

２種の刺激についての 新たな見方が生まれています

and that difference is that whether positive stimuli

学問的な見方と違う点は ポジティブな刺激が

are more effective than negative ones in different circumstances,

状況によっては ネガティブな刺激よりも効果があるにせよ

the negative ones are cheaper.

ネガティブな刺激は 安上がりだということです

They're the bargain stimuli.

ネガティブな刺激は お手頃なんです

So what I mean by that is it's much easier

つまり 信頼を築くよりも

to lose trust than to build trust.

信頼失う方が 簡単に起きるということです

It takes a long time to build love.

愛を築くには長い時間がかかりますが

It takes a short time to ruin love.

壊れるのはあっという間です

Now the customers of these behavior modification empires

この行動変容帝国の顧客たちは

are on a very fast loop.

超高速のループにいます

They're almost like high-frequency traders.

まるで高頻度取引トレーダーのようです

They're getting feedbacks from their spends

購入者からフィードバックを受けたり

or whatever their activities are if they're not spending,

購入でなければ ユーザーの行動から フィードバックを受けたりすることで

and they see what's working, and then they do more of that.

企業側は何が効果があるか理解し それを更に提供します

And so they're getting the quick feedback,

つまり フィードバックを 即座に受けることとは

which means they're responding more to the negative emotions,

より頻繁にネガティブな感情に 反応しています

because those are the ones that rise faster, right?

何故ならそれらがより素早く 生じる感情だからです そうでしょう？

And so therefore, even well-intentioned players

ですから 善意の企業が

who think all they're doing is advertising toothpaste

自分たちは ただ歯磨き粉を 宣伝しているだけと思っていたとしても

end up advancing the cause of the negative people,

ネガティブな人々

the negative emotions, the cranks,

ネガティブな気持ちの人 気分屋

the paranoids,

偏執症患者

the cynics, the nihilists.

皮肉屋やニヒリストの主張を 宣伝する羽目に陥ってしまいます

Those are the ones who get amplified by the system.

そういう人々が このシステムによって増長するのです

And you can't pay one of these companies to make the world suddenly nice

このような企業にお金を払って 急に世界を良い場所に変えたり

and improve democracy

民主主義を改善したりするのは

nearly as easily as you can pay to ruin those things.

お金を払って こうしたものを 壊すほどには簡単にできません

And so this is the dilemma we've gotten ourselves into.

つまりこれが私たちが自らを追い込んだ ジレンマというわけです

The alternative is to turn back the clock, with great difficulty,

別の手段は 骨を折って時間を巻き戻し

and remake that decision.

選択をやり直すことです

Remaking it would mean two things.

それは２つの事を意味します

It would mean first that many people, those who could afford to,

まず経済的に余裕のある多くの人々が

would actually pay for these things.

こうしたサービスに代金を支払うことです

You'd pay for search, you'd pay for social networking.

サーチ・エンジンやSNSの 利用料金を支払うんです

How would you pay? Maybe with a subscription fee,

支払いの方法は 購読料や

maybe with micro-payments as you use them.

利用しただけ支払う マイクロ・ペイメントが考えられます

There's a lot of options.

他にも色々な選択肢が考えられます

If some of you are recoiling, and you're thinking,

もし皆さんの中には ひるんでしまい

"Oh my God, I would never pay for these things.

「まさか こんなものに金を出すなんて考えられない

How could you ever get anyone to pay?"

支払う人なんているだろうか？」 と考える方がいたら

I want to remind you of something that just happened.

最近起こった事を思い出して欲しいのですが

Around this same time

Google や Facebookといった会社が

that companies like Google and Facebook were formulating their free idea,

無料サービスに基づくビジネス構想を 練り上げていた同じ頃

a lot of cyber culture also believed that in the future,

サイバー・カルチャー界隈の人々の多くは

televisions and movies would be created in the same way,

将来テレビや映画が ウィキペディアと同じような仕組みで

kind of like the Wikipedia.

作られるようになると信じていました

But then, companies like Netflix, Amazon, HBO,

ところが Netflix、Amazon、HBOなどが

said, "Actually, you know, subscribe. We'll give you give you great TV."

「購読すれば 素晴らしい番組を 提供しますよ」と言ったんです

And it worked!

そして成功しました！

We now are in this period called "peak TV," right?

私たちは現在この「テレビの黄金時代」に 生きていますよね？

So sometimes when you pay for stuff, things get better.

だから 代金を払ったら 良いこともあるんですよ

We can imagine a hypothetical --

仮に「ソーシャルメディア黄金時代」を

(Applause)

（拍手）

We can imagine a hypothetical world of "peak social media."

仮に「ソーシャルメディア黄金時代」を 想像してみましょう

What would that be like?

それはどんなものになるでしょうか？

It would mean when you get on, you can get really useful,

ログインすると ゴミのような情報ではなく

authoritative medical advice instead of cranks.

信頼できる情報源からの とても有益な医療アドバイスが得られ

It could mean when you want to get factual information,

事実に基づいた情報を探す時

there's not a bunch of weird, paranoid conspiracy theories.

そこには奇妙で偏執的な 陰謀論は存在しません

We can imagine this wonderful other possibility.

この素晴らしいもう一つの世界も 想像することができます

Ah.

ああ！

I dream of it. I believe it's possible.

私はそれを夢見て それが実現可能だと信じています

I'm certain it's possible.

実現できると確信しています

And I'm certain that the companies, the Googles and the Facebooks,

そして GoogleやFacebookなどの企業は

would actually do better in this world.

そのような世界で もっと成功するだろうと信じています

I don't believe we need to punish Silicon Valley.

私はシリコン・バレーが 罰を受けるべきだとは思いません

We just need to remake the decision.

私たちは単に選択し直せばいいんです

Of the big tech companies,

大テクノロジー企業の中で

it's really only two that depend on behavior modification and spying

ビジネスプランが 行動変容とスパイ行為に依存しているのは

as their business plan.

実は２社しかありません

It's Google and Facebook.

Google と Facebookです

(Laughter)

（笑）

And I love you guys.

私は彼らが好きですよ

Really, I do. Like, the people are fantastic.

本当です 社員は素晴らしい人ばかりです

I want to point out, if I may,

ただ 言わせてもらえば

if you look at Google,

例えばGoogleでは

they can propagate cost centers endlessly with all of these companies,

コストセンターをこれらの会社と共に 際限無く増やしていくことができますが

but they cannot propagate profit centers.

プロフィットセンターは 増やせません

They cannot diversify, because they're hooked.

彼らは病みつきになっていて ビジネスモデルの多様化ができません

They're hooked on this model, just like their own users.

ユーザー達と共に このビジネスモデルに夢中になっているのです

They're in the same trap as their users,

ユーザー達と同じ罠に嵌ってしまっています

and you can't run a big corporation that way.

そのようなやり方では 大企業の経営はできません

So this is ultimately totally in the benefit of the shareholders

ですからこのモデルは 究極的には 株主 さらにはこうした会社の

and other stakeholders of these companies.

他の利害関係者たちの利益にも なるんです

It's a win-win solution.

双方の利益になるソリューションです

It'll just take some time to figure it out.

ただ問題解決には 時間を要するでしょう

A lot of details to work out,

膨大な細部を見直さなければなりませんが

totally doable.

当然やってのけられますよ

(Laughter)

（笑）

I don't believe our species can survive unless we fix this.

人類はこの間違いを正さない限り 生き延びられないだろうと思います

We cannot have a society

２人の人間が

in which, if two people wish to communicate,

お互いに会話をしたい時 その唯一の手段が

the only way that can happen is if it's financed by a third person

彼らを意のままに操りたいと考える 第三者の経済的支援無くしては

who wishes to manipulate them.

成り立たないような社会には住めないのです

(Applause)

（拍手）

（拍手が鳴りやむ）

(Applause ends)

In the meantime, if the companies won't change,

もし企業が変わらなければ

delete your accounts, OK?

アカウントを消しましょう いいですね？

(Laughter)

（笑）

(Applause)

（拍手）

That's enough for now.

これ位にしておきましょう

Thank you so much.

ありがとうございます

(Applause)

（拍手）