How we need to remake the internet | Jaron Lanier

Переводчик: Yulia Kallistratova Редактор: Natalia Ost

Back in the 1980s, actually, I gave my first talk at TED,

Я впервые выступил на TED ещё в 1980 году,

and I brought some of the very, very first public demonstrations

проведя тогда один из самых первых публичных показов

of virtual reality ever to the TED stage.

виртуальной реальности со сцены TED.

And at that time, we knew that we were facing a knife-edge future

Уже в то время мы понимали, что наше будущее на волоске,

where the technology we needed,

что технология, в которой мы нуждались,

the technology we loved,

технология, которую мы обожали,

could also be our undoing.

могла нас погубить.

We knew that if we thought of our technology

Мы знали, что если превратим технологию

as a means to ever more power,

в средство для достижения власти,

if it was just a power trip, we'd eventually destroy ourselves.

если используем её в погоне за властью, мы неминуемо себя уничтожим.

That's what happens

Так случается всегда,

when you're on a power trip and nothing else.

когда гонишься лишь за властью, не думая ни о чём другом.

So the idealism

Так вот идеализм

of digital culture back then

цифровой культуры того времени

was all about starting with that recognition of the possible darkness

заключался в том, чтобы, осознав эту потенциальную угрозу,

and trying to imagine a way to transcend it

попытаться превозмочь её

with beauty and creativity.

силой красоты и творчества.

I always used to end my early TED Talks with a rather horrifying line, which is,

Свои ранние выступления на TED я, как правило, заканчивал пугалкой:

"We have a challenge.

«Перед нами сложная задача.

We have to create a culture around technology

Мы должны создать вокруг технологий культуру,

that is so beautiful, so meaningful,

которая своей красотой, смыслом,

so deep, so endlessly creative,

глубиной, бесконечностью творчества,

so filled with infinite potential

своим бескрайним потенциалом

that it draws us away from committing mass suicide."

смогла бы уберечь нас от массового самоубийства».

So we talked about extinction as being one and the same

Мы говорили в том же ключе о вымирании,

as the need to create an alluring, infinitely creative future.

как о необходимости создания прекрасного, бесконечно творческого будущего.

And I still believe that that alternative of creativity

И я до сих пор верю, что творчество

as an alternative to death

и есть совершенно реальная и верная

is very real and true,

альтернатива гибели,

maybe the most true thing there is.

возможно, самая реальная из всего, что у нас есть.

In the case of virtual reality --

Что же касается виртуальной реальности...

well, the way I used to talk about it

Я говорил о ней так,

is that it would be something like

как будто она станет чем-то

what happened when people discovered language.

вроде языка в момент его возникновения.

With language came new adventures, new depth, new meaning,

С языком открылись новые возможности, новая глубина, новый смысл,

new ways to connect, new ways to coordinate,

новые пути сближения, новые пути сотрудничества,

new ways to imagine, new ways to raise children,

новые подходы к воображению и воспитанию детей.

and I imagined, with virtual reality, we'd have this new thing

И мне представлялось, что виртуальная реальность станет тем нововведением,

that would be like a conversation

которое будет напоминать диалог

but also like waking-state intentional dreaming.

и в то же время походить на осознанные сны наяву.

We called it post-symbolic communication,

Мы называли её пост-символическим общением,

because it would be like just directly making the thing you experienced

при котором можно непосредственно воссоздавать то, что испытываешь,

instead of indirectly making symbols to refer to things.

вместо того, чтобы косвенно выражать всё через символы.

It was a beautiful vision, and it's one I still believe in,

Это было прекрасной идеей, в которую я верю до сих пор,

and yet, haunting that beautiful vision

но у этой прекрасной идеи

was the dark side of how it could also turn out.

была та самая обратная сторона, которой всё могло обернуться.

And I suppose I could mention

Тут я хотел бы упомянуть

from one of the very earliest computer scientists,

одного из первых учёных-информатиков

whose name was Norbert Wiener,

по имени Норберт Винер,

and he wrote a book back in the '50s, from before I was even born,

который ещё в 50-е годы, то есть до моего рождения, написал книгу,

called "The Human Use of Human Beings."

озаглавленную «Человеческое использование человеческих существ».

And in the book, he described the potential

В той книге он описал создание

to create a computer system that would be gathering data from people

гипотетической компьютерной системы, которая собирала бы данные о людях

and providing feedback to those people in real time

и в реальном времени посылала бы этим людям ответные сигналы,

in order to put them kind of partially, statistically, in a Skinner box,

с тем чтобы держать их, хотя бы частично, статистически, в эдаком ящике Скиннера,

in a behaviorist system,

в бихевиористской системе.

and he has this amazing line where he says,

У него есть удивительные строки, где он пишет,

one could imagine, as a thought experiment --

что в качестве мысленного эксперимента можно представить —

and I'm paraphrasing, this isn't a quote --

я перефразирую, это не цитата —

one could imagine a global computer system

можно представить себе глобальную компьютерную систему,

where everybody has devices on them all the time,

в которой каждый постоянно носит при себе некие приборы,

and the devices are giving them feedback based on what they did,

подающие людям сигналы в зависимости от того, что они делают,

and the whole population

и всё население

is subject to a degree of behavior modification.

в той или иной мере подвергается корректировкам поведения.

And such a society would be insane,

Такое общество было бы безумием,

could not survive, could not face its problems.

неспособным к выживанию, к решению собственных проблем.

And then he says, but this is only a thought experiment,

Он добавляет, что это всего лишь мысленный эксперимент

and such a future is technologically infeasible.

и что подобное будущее технологически нереализуемо.

(Laughter)

(Смех)

And yet, of course, it's what we have created,

Тем не менее, это именно то, что мы создали

and it's what we must undo if we are to survive.

и что нам теперь нужно пересоздать ради собственного выживания.

So --

Так вот...

(Applause)

(Аплодисменты)

I believe that we made a very particular mistake,

На мой взгляд, мы совершили вполне определённую ошибку,

and it happened early on,

и случилось это в самом начале,

and by understanding the mistake we made,

и понимание этой ошибки

we can undo it.

поможет нам её исправить.

It happened in the '90s,

Это произошло в 90-х годах,

and going into the turn of the century,

на рубеже веков,

and here's what happened.

и заключалось оно в следующем.

Early digital culture,

Ранней цифровой культуре —

and indeed, digital culture to this day,

да и цифровой культуре по сей день —

had a sense of, I would say, lefty, socialist mission about it,

было присуще несколько, я бы сказал, левое, социалистическое ви́дение,

that unlike other things that have been done,

что в отличие от других изобретений,

like the invention of books,

таких как книги,

everything on the internet must be purely public,

всё в интернете должно быть открытым,

must be available for free,

должно быть в бесплатном доступе,

because if even one person cannot afford it,

потому что если кто-то не сможет за это платить,

then that would create this terrible inequity.

возникнет ужасающее неравенство.

Now of course, there's other ways to deal with that.

Однако это решается и другими способами.

If books cost money, you can have public libraries.

Раз книги стоят денег, существуют публичные библиотеки.

And so forth.

И тому подобное.

But we were thinking, no, no, no, this is an exception.

Но мы думали: нет, нет, нет, это будет исключением.

This must be pure public commons, that's what we want.

Пусть это безоговорочно станет всеобщим достоянием, мы так хотим.

And so that spirit lives on.

И эта идея продолжает жить.

You can experience it in designs like the Wikipedia, for instance,

Она нашла воплощение в таких проектах, как Википедия

many others.

и многих других.

But at the same time,

Но в то же время

we also believed, with equal fervor,

мы с равным энтузиазмом придерживались

in this other thing that was completely incompatible,

другой идеи, совершенно несовместимой с первой,

which is we loved our tech entrepreneurs.

которая выражалась в нашей любви к технарям-предпринимателям.

We loved Steve Jobs; we loved this Nietzschean myth

Мы были влюблены в Стива Джобса, влюблены в ницшеанский миф

of the techie who could dent the universe.

о технаре, который продырявит Вселенную.

Right?

Понимаете?

And that mythical power still has a hold on us, as well.

И эта мистическая сила всё так же властвует над нами.

So you have these two different passions,

Так вот, есть два различных стремления:

for making everything free

к тому, чтобы сделать всё бесплатным,

and for the almost supernatural power of the tech entrepreneur.

и к почти сверхъестественной власти технаря-предпринимателя.

How do you celebrate entrepreneurship when everything's free?

Как же быть предпринимателем, когда всё бесплатно?

Well, there was only one solution back then,

Единственным на тот момент решением

which was the advertising model.

был бизнес, основанный на рекламе.

And so therefore, Google was born free, with ads,

Таким образом родился Гугл — бесплатный, но с рекламой,

Facebook was born free, with ads.

родился Фейсбук — бесплатный, но с рекламой.

Now in the beginning, it was cute,

И поначалу это было даже мило,

like with the very earliest Google.

пока Гугл был в младенчестве.

(Laughter)

(Смех)

The ads really were kind of ads.

Тогда реклама действительно была рекламой,

They would be, like, your local dentist or something.

вроде адреса ближайшего зубного и тому подобного.

But there's thing called Moore's law

Но существует такая вещь, как закон Мура,

that makes the computers more and more efficient and cheaper.

согласно которому компьютеры становятся всё эффективнее и дешевле.

Their algorithms get better.

Их алгоритмы улучшаются.

We actually have universities where people study them,

Люди уже изучают их в университетах,

and they get better and better.

и они становятся всё лучше и лучше.

And the customers and other entities who use these systems

А потребители и организации, пользующиеся этими системами,

just got more and more experienced and got cleverer and cleverer.

накапливают всё больше опыта, становясь всё умнее и умнее.

And what started out as advertising

И то, что началось с рекламы,

really can't be called advertising anymore.

больше уже рекламой не назовёшь.

It turned into behavior modification,

Она превратилась в метод влияния на поведение,

just as Norbert Wiener had worried it might.

как того опасался Норберт Винер.

And so I can't call these things social networks anymore.

И я больше уже не могу называть это социальными сетями.

I call them behavior modification empires.

Я их называю империями по контролю поведения.

(Applause)

(Аплодисменты)

And I refuse to vilify the individuals.

При этом я отказываюсь конкретно кого-либо обвинять.

I have dear friends at these companies,

У меня в этих компаниях хорошие друзья,

sold a company to Google, even though I think it's one of these empires.

я сам продал Гуглу фирму, хотя считаю его одной из таких империй.

I don't think this is a matter of bad people who've done a bad thing.

Я не думаю, что тут дело в плохих людях, которые совершили злодеяние.

I think this is a matter of a globally tragic,

Я думаю, что речь скорее о глобальной, трагической,

astoundingly ridiculous mistake,

поразительно нелепой ошибке,

rather than a wave of evil.

чем о злонамеренных действиях.

Let me give you just another layer of detail

Позвольте, я остановлюсь поподробнее

into how this particular mistake functions.

на механизме работы этой ошибки.

So with behaviorism,

В бихевиоризме

you give the creature, whether it's a rat or a dog or a person,

вы даёте существу, будь то крыса, собака или человек,

little treats and sometimes little punishments

маленькие поощрения, а иногда и наказания

as feedback to what they do.

в ответ на их действия.

So if you have an animal in a cage, it might be candy and electric shocks.

Например, животному в клетке дают сладости или ударяют его током.

But if you have a smartphone,

Но в случае со смартфоном

it's not those things, it's symbolic punishment and reward.

реакция поступает в виде символических наказаний и поощрений.

Pavlov, one of the early behaviorists,

Павлов, один из ранних бихевиористов,

demonstrated the famous principle.

продемонстрировал этот знаменитый принцип:

You could train a dog to salivate just with the bell, just with the symbol.

у собаки можно вызвать слюну в ответ на звонок, то есть на символ.

So on social networks,

Так вот в социальных сетях

social punishment and social reward function as the punishment and reward.

социальные наказания, социальные поощрения играют роль наказаний и подкреплений.

And we all know the feeling of these things.

Всем известно, что мы при этом чувствуем.

You get this little thrill --

Вы чувствуете подъём:

"Somebody liked my stuff and it's being repeated."

«Кто-то лайкнул мой пост и повторил его».

Or the punishment: "Oh my God, they don't like me,

Или же расстраиваетесь: «О Боже, я им не нравлюсь,

maybe somebody else is more popular, oh my God."

наверно, кто-то популярнее меня, ах, какой ужас».

So you have those two very common feelings,

И вы поочерёдно испытываете два эти чувства,

and they're doled out in such a way that you get caught in this loop.

дозированные таким образом, что вы попадаете в замкнутый круг.

As has been publicly acknowledged by many of the founders of the system,

И как уже было во всеуслышанье признано многими основателями этой системы,

everybody knew this is what was going on.

все были в курсе того, что происходит.

But here's the thing:

Но вот в чём дело:

traditionally, in the academic study of the methods of behaviorism,

традиционно при академическом подходе к изучению поведения

there have been comparisons of positive and negative stimuli.

сравнивается влияние положительных и отрицательных стимулов.

In this setting, a commercial setting,

А в данном контексте, в коммерческом контексте,

there's a new kind of difference

акцент делается на ином различии,

that has kind of evaded the academic world for a while,

которое долго не учитывалось в академических исследованиях, —

and that difference is that whether positive stimuli

это различие в том, что какими бы эффективными

are more effective than negative ones in different circumstances,

ни были в различных ситуациях положительные стимулы,

the negative ones are cheaper.

отрицательные стимулы дешевле.

They're the bargain stimuli.

Именно они определяют исход сделки.

So what I mean by that is it's much easier

То есть, другими словами, намного легче

to lose trust than to build trust.

потерять доверие, чем обрести доверие.

It takes a long time to build love.

Нужно очень много времени, чтобы создать любовь,

It takes a short time to ruin love.

и очень мало времени, чтобы её уничтожить.

Now the customers of these behavior modification empires

И вот потребители этих империй по воздействию на поведение

попадают в скоростной круговорот.

are on a very fast loop.

They're almost like high-frequency traders.

Почти как сверхскоростные трейдеры.

They're getting feedbacks from their spends

Они получают отклик на свои затраты

or whatever their activities are if they're not spending,

или какую-то другую деятельность, если это не инвестиции,

and they see what's working, and then they do more of that.

и сразу видят, что работает, и делают на этом упор.

And so they're getting the quick feedback,

И так как отклик незамедлителен,

which means they're responding more to the negative emotions,

получается, что по большей части они реагируют на негативные эмоции,

because those are the ones that rise faster, right?

потому что именно такие эмоции возникают быстрее, так?

And so therefore, even well-intentioned players

Таким образом даже самые благонамеренные участники,

who think all they're doing is advertising toothpaste

уверенные, что они всего лишь рекламируют зубную пасту,

end up advancing the cause of the negative people,

в результате продвигают интересы озлобленных людей,

the negative emotions, the cranks,

негативных настроений, фанатиков,

the paranoids,

параноиков,

the cynics, the nihilists.

циников и нигилистов.

Those are the ones who get amplified by the system.

Именно их голоса усиливаются системой.

And you can't pay one of these companies to make the world suddenly nice

И нельзя заплатить одной из этих компаний, чтобы она изменила мир к лучшему

and improve democracy

и укрепила демократию,

nearly as easily as you can pay to ruin those things.

а заплатить, чтобы она их разрушила, — можно.

And so this is the dilemma we've gotten ourselves into.

Вот в какую проблемную ситуацию мы себя загнали.

The alternative is to turn back the clock, with great difficulty,

У нас есть альтернатива: огромным усилием повернуть время вспять

and remake that decision.

и пересмотреть своё решение.

Remaking it would mean two things.

Пересмотр будет означать две вещи.

It would mean first that many people, those who could afford to,

Во-первых, многие люди, которые могут себе это позволить,

would actually pay for these things.

начали бы платить за пользование.

You'd pay for search, you'd pay for social networking.

Вы бы платили за поиск, вы бы платили за соцсети.

How would you pay? Maybe with a subscription fee,

Каким образом? Например, через абонентские взносы

maybe with micro-payments as you use them.

или через разовые оплаты по мере пользования.

There's a lot of options.

Вариантов достаточно.

If some of you are recoiling, and you're thinking,

Возможно, кто-то из вас возмущается и думает:

"Oh my God, I would never pay for these things.

«Ну, знаете, я не стану за это платить.

How could you ever get anyone to pay?"

Да и кто вообще захочет платить?»

I want to remind you of something that just happened.

Так вот, я хочу напомнить вам об одном недавнем случае.

Around this same time

Примерно в то же время,

that companies like Google and Facebook were formulating their free idea,

когда компании вроде Гугла и Фейсбука формировали свой принцип бесплатности,

a lot of cyber culture also believed that in the future,

во многих кибер-кругах также верили, что в будущем

televisions and movies would be created in the same way,

то же самое произойдёт с телевидением и кино,

kind of like the Wikipedia.

что они уподобятся Википедии.

But then, companies like Netflix, Amazon, HBO,

Но тогда компании вроде Нетфликс, Амазон, HBO сказали:

said, "Actually, you know, subscribe. We'll give you give you great TV."

«Вообще-то, давайте подписывайтесь. Мы обещаем вам классные программы».

And it worked!

И это сработало!

We now are in this period called "peak TV," right?

Мы находимся сейчас на так называемом «телевизионном пике», так ведь?

So sometimes when you pay for stuff, things get better.

Иногда, если за что-то заплатить, оно становится лучше.

We can imagine a hypothetical --

Мы можем вообразить...

(Applause)

(Аплодисменты)

We can imagine a hypothetical world of "peak social media."

Мы можем вообразить эдакий мир «пика социальных сетей».

What would that be like?

Как бы это выглядело?

It would mean when you get on, you can get really useful,

Это означало бы, что, зайдя туда, вы могли бы получить совет

authoritative medical advice instead of cranks.

от настоящего доктора, а не маньяка.

It could mean when you want to get factual information,

Это означало бы, что, зайдя туда в поисках правдивой информации,

there's not a bunch of weird, paranoid conspiracy theories.

вы не получите кучу немыслимых параноидальных теорий заговора.

We can imagine this wonderful other possibility.

Можно представить себе эту замечательную возможность.

Ah.

Ах.

I dream of it. I believe it's possible.

Я мечтаю об этом. Я верю, что это возможно.

I'm certain it's possible.

Я уверен в том, что это возможно.

And I'm certain that the companies, the Googles and the Facebooks,

И я уверен, что компании — Гуглы и Фейсбуки —

would actually do better in this world.

от этого только выиграют.

I don't believe we need to punish Silicon Valley.

Я не считаю, что нужно наказать Кремниевую Долину.

We just need to remake the decision.

Нам просто нужно пересмотреть то решение.

Of the big tech companies,

Среди крупных технологических компаний

it's really only two that depend on behavior modification and spying

только две по-настоящему зависят от поведенческих манипуляций и слежки

as their business plan.

в качестве своего бизнес-плана.

It's Google and Facebook.

Это Гугл и Фейсбук.

(Laughter)

(Смех)

And I love you guys.

И я обожаю вас, ребята.

Really, I do. Like, the people are fantastic.

Нет, серьёзно, люди там фантастические.

I want to point out, if I may,

Я просто хочу сказать, если позволите,

if you look at Google,

взгляните на Гугл:

they can propagate cost centers endlessly with all of these companies,

со всеми этими фирмами они могут до бесконечности множить центры затрат,

but they cannot propagate profit centers.

но не центры прибыли.

They cannot diversify, because they're hooked.

И изменить это они не могут, потому что сами на это подсели.

They're hooked on this model, just like their own users.

Они подсели на эту модель так же, как и их пользователи.

They're in the same trap as their users,

Они в той же ловушке, что и их пользователи,

and you can't run a big corporation that way.

а так нельзя управлять крупной корпорацией.

So this is ultimately totally in the benefit of the shareholders

Так что в конечном счёте это в интересах как акционеров,

and other stakeholders of these companies.

так и других заинтересованных в этих компаниях сторон.

It's a win-win solution.

При таком решении выигрывают все.

It'll just take some time to figure it out.

Просто нужно время, чтобы его обдумать.

A lot of details to work out,

Нужно разобраться во многих деталях,

totally doable.

но всё абсолютно достижимо.

(Laughter)

(Смех)

I don't believe our species can survive unless we fix this.

Я думаю, что мы не выживем как вид, если этого не исправим.

We cannot have a society

Мы не можем жить в обществе,

in which, if two people wish to communicate,

где общение между двумя людьми

the only way that can happen is if it's financed by a third person

возможно исключительно при условии его финансирования третьим лицом,

who wishes to manipulate them.

желающим ими манипулировать.

(Applause)

(Аплодисменты) (Одобрительные возгласы)

(Applause ends)

(Аплодисменты заканчиваются)

In the meantime, if the companies won't change,

А в ожидании того, пока эти компании изменятся,

delete your accounts, OK?

удалите свои аккаунты, ладно?

(Laughter)

(Смех)

(Applause)

(Аплодисменты)

That's enough for now.

У меня пока всё.

Thank you so much.

Большое вам спасибо.

(Applause)

(Аплодисменты)