How we need to remake the internet | Jaron Lanier

Übersetzung: Uwe Sprenk

Back in the 1980s, actually, I gave my first talk at TED,

Damals in den 80ern hielt ich meine erste Rede bei TED,

and I brought some of the very, very first public demonstrations

wobei ich eine der ersten öffentlichen Demonstrationen

of virtual reality ever to the TED stage.

von "Virtual Reality" auf die TED-Bühne brachte.

And at that time, we knew that we were facing a knife-edge future

Damals war uns bewusst, dass uns eine extrem unsichere Zukunft bevorsteht,

where the technology we needed,

in der die benötigte Technologie,

the technology we loved,

die Technologie, die wir liebten,

could also be our undoing.

uns auch zum Verhängnis werden könnte.

We knew that if we thought of our technology

Wir wussten, würden wir unsere Technologie

as a means to ever more power,

als Mittel zu noch mehr Macht betrachten,

if it was just a power trip, we'd eventually destroy ourselves.

würden wir uns selbst zerstören, falls es nur ein Machttrip wäre.

That's what happens

So etwas passiert,

when you're on a power trip and nothing else.

wenn man nur auf Macht aus ist.

So the idealism

Folglich beschäftigte sich das Idealbild

of digital culture back then

der damaligen digitalen Kultur

was all about starting with that recognition of the possible darkness

insbesondere mit dem Erkennen dieser möglichen Dunkelheit

and trying to imagine a way to transcend it

und dem Versuch, einen Weg zu finden,

with beauty and creativity.

diese durch Schönheit und Kreativität zu überwinden.

I always used to end my early TED Talks with a rather horrifying line, which is,

Ich habe meine ersten TEDTalks gewöhnlich mit einer entsetzlichen Zeile beendet:

"We have a challenge.

"Wir haben eine Herausforderung.

We have to create a culture around technology

Wir müssen eine Kultur um Technologie herum erzeugen,

that is so beautiful, so meaningful,

die so schön, so bedeutsam,

so deep, so endlessly creative,

so tiefgründig, so endlos kreativ,

so filled with infinite potential

und mit so endlosem Potenzial gefüllt ist,

that it draws us away from committing mass suicide."

dass sie uns davon abbringt, Massensuizid zu begehen."

So we talked about extinction as being one and the same

Also sprachen wir vom Aussterben als ein und und demselben wie dem Bedürfnis,

as the need to create an alluring, infinitely creative future.

eine verheißungsvolle, unendlich kreative Zukunft zu schaffen.

And I still believe that that alternative of creativity

Ich glaube nach wie vor, dass diese alternative Kreativität

as an alternative to death

als Alternative zum Tod

is very real and true,

sehr real und wahr ist

maybe the most true thing there is.

und sogar der absoluten Wahrheit entspricht.

In the case of virtual reality --

Im Falle von "Virtual Reality"--

well, the way I used to talk about it

so habe ich früher darüber geredet,

is that it would be something like

wäre es in etwa so,

what happened when people discovered language.

wie als die Menschen die Sprache entdeckten.

With language came new adventures, new depth, new meaning,

Mit der Sprache kamen neue Abenteuer, neue Tiefgründigkeit, neue Bedeutungen,

new ways to connect, new ways to coordinate,

neue Wege sich zu verbinden, zu koordinieren,

new ways to imagine, new ways to raise children,

neue Wege, sich etwas vorzustellen oder Kinder aufzuziehen,

and I imagined, with virtual reality, we'd have this new thing

und mit "Virtual Reality" hätten wir diese neue Sache,

that would be like a conversation

die wie eine Unterhaltung,

but also like waking-state intentional dreaming.

aber auch wie ein Wachzustand absichtlichen Träumens wäre.

We called it post-symbolic communication,

Wir nennen es postsymbolische Kommunikation,

because it would be like just directly making the thing you experienced

weil es genauso ist, als würde man direkt das tun, was man erfahren hat,

instead of indirectly making symbols to refer to things.

anstatt indirekt Zeichen zu machen, um sich auf Dinge zu beziehen.

It was a beautiful vision, and it's one I still believe in,

Es war eine schöne Vision und eine, an die ich nach wie vor glaube,

and yet, haunting that beautiful vision

und doch wurde diese schöne Vision

von der dunklen Seite verfolgt, in die sie sich auch verwandelt könnte.

was the dark side of how it could also turn out.

And I suppose I could mention

Ich glaube, ich könnte etwas

from one of the very earliest computer scientists,

von einem der ersten Informatiker erwähnen,

whose name was Norbert Wiener,

dessen Name Norbert Wiener war.

and he wrote a book back in the '50s, from before I was even born,

Er schrieb damals in den 50ern ein Buch, noch bevor ich geboren war,

called "The Human Use of Human Beings."

namens "Mensch und Menschmaschine".

And in the book, he described the potential

In diesem Buch beschrieb er das Potenzial

to create a computer system that would be gathering data from people

ein Computersystem zu errichten, das Daten von Menschen sammeln würde

and providing feedback to those people in real time

und diesen Menschen in Echtzeit Feedback geben würde,

in order to put them kind of partially, statistically, in a Skinner box,

um diese in eine, teils statistische, "Enthäutungs-Box" zu stecken;

in a behaviorist system,

in ein Verhaltenssystem

and he has this amazing line where he says,

und er hat dieses fantastische Zitat, in dem er sagt,

one could imagine, as a thought experiment --

man kann es sich als Gedankenexperiment vorstellen --

and I'm paraphrasing, this isn't a quote --

und ich umschreibe es, es ist kein Zitat --

one could imagine a global computer system

man könnte es sich als globales Computersystem vorstellen,

where everybody has devices on them all the time,

bei dem jeder jederzeit Geräte bei sich trägt

and the devices are giving them feedback based on what they did,

und die Geräte einem basierend auf dem, was man macht, Feedback geben

and the whole population

und die gesamte Bevölkerung

is subject to a degree of behavior modification.

bis zu einem gewissen Grad einer Verhaltensmodifikation unterliegt.

And such a society would be insane,

Eine solche Gesellschaft wäre verrückt,

could not survive, could not face its problems.

könnte nicht überleben und könnte nicht ihren Problemen begegnen.

And then he says, but this is only a thought experiment,

Und dann sagt er, dass es nur ein Gedankenexperiment ist

and such a future is technologically infeasible.

und das eine solche Zukunft technologisch nicht umsetzbar wäre.

(Laughter)

(Gelächter)

And yet, of course, it's what we have created,

Und doch ist es, natürlich, das, was wir geschaffen haben,

and it's what we must undo if we are to survive.

und wir müssen es rückgängig machen, wenn wir überleben wollen.

So --

Also --

(Applause)

(Applaus)

I believe that we made a very particular mistake,

Ich bin überzeugt, dass wir einen ganz bestimmten Fehler gemacht haben

and it happened early on,

und dieser ist sehr früh passiert

and by understanding the mistake we made,

und wenn wir den Fehler verstehen,

we can undo it.

können wir ihn rückgängig machen.

It happened in the '90s,

Es passierte in den 90ern

and going into the turn of the century,

und zieht sich bis zur Jahrhundertwende.

and here's what happened.

Dabei passierte Folgendes:

Early digital culture,

Die frühe digitale Kultur,

and indeed, digital culture to this day,

und sogar die digitale Kultur bis zum heutigen Tag,

had a sense of, I would say, lefty, socialist mission about it,

trug ein Gefühl von linker, sozialistischer Mission mit sich,

that unlike other things that have been done,

das anders als bei anderen Dingen,

like the invention of books,

wie die Erfindung von Büchern,

everything on the internet must be purely public,

alles im Internet vollkommen öffentlich

must be available for free,

und kostenlos verfügbar sein muss,

because if even one person cannot afford it,

weil selbst, wenn eine Person es sich nicht leisten kann,

then that would create this terrible inequity.

dies diese schreckliche Ungleichheit schaffen würde.

Now of course, there's other ways to deal with that.

Nun gibt es natürlich andere Wege damit umzugehen.

If books cost money, you can have public libraries.

Wenn Bücher Geld kosten, gibt es öffentliche Bibliotheken.

And so forth.

Und so weiter.

But we were thinking, no, no, no, this is an exception.

Aber wir dachten uns nein, das ist etwas anderes.

This must be pure public commons, that's what we want.

Das muss ein reines öffentliches Gut sein; genau das wollen wir.

And so that spirit lives on.

Und dieser Geist lebt weiter.

You can experience it in designs like the Wikipedia, for instance,

Man kann es etwa an Umsetzungen wie Wikipedia

many others.

und an vielen anderen sehen.

But at the same time,

Zur selben Zeit jedoch glaubten wir,

we also believed, with equal fervor,

mit gleicher Leidenschaft,

in this other thing that was completely incompatible,

an diese andere Sache, die damit komplett inkompatibel war,

which is we loved our tech entrepreneurs.

wir liebten nämlich unsere Hightech-Unternehmer.

We loved Steve Jobs; we loved this Nietzschean myth

Wir liebten Steve Jobs, wir liebten diesen Nietzsche-Mythos

of the techie who could dent the universe.

des Technikfreaks, der das Universum verformen kann.

Right?

Oder?

And that mythical power still has a hold on us, as well.

Diese mystische Kraft hat immer noch Besitz von uns.

So you have these two different passions,

Also hat man diese zwei verschiedenen Leidenschaften,

for making everything free

alles kostenlos zu gestalten

and for the almost supernatural power of the tech entrepreneur.

und die nahezu übernatürliche Macht der Technikunternehmer.

How do you celebrate entrepreneurship when everything's free?

Wie feiert man Unternehmertum, wenn alles kostenlos ist?

Well, there was only one solution back then,

Es gab damals nur eine Lösung,

which was the advertising model.

welche das Werbemodell war.

And so therefore, Google was born free, with ads,

Und so war folglich Google entstanden: kostenlos, mit Werbung,

Facebook was born free, with ads.

Facebook war geboren, ebenfalls kostenlos, mit Werbung.

Now in the beginning, it was cute,

Zu Beginn war es süß,

like with the very earliest Google.

wie mit dem frühesten Google.

(Laughter)

(Gelächter)

The ads really were kind of ads.

Die Werbung war wirklich mehr oder weniger Werbung.

They would be, like, your local dentist or something.

Dort fand man seinen lokalen Zahnarzt oder so etwas.

But there's thing called Moore's law

Aber es gibt das sogennante Mooresche Gesetz,

that makes the computers more and more efficient and cheaper.

das Computer immer effizienter und günstiger macht.

Their algorithms get better.

Die Algorithmen werden besser.

We actually have universities where people study them,

Wir haben Universitäten, an denen Leute das studieren

and they get better and better.

und sie werden immer besser.

And the customers and other entities who use these systems

De Kunden und andere Instanzen, die diese Systeme nutzen,

just got more and more experienced and got cleverer and cleverer.

haben mehr Erfahrung gesammelt und sind immer schlauer geworden.

And what started out as advertising

Was als Werbung begann,

really can't be called advertising anymore.

kann wirklich nicht mehr Werbung genannt werden.

It turned into behavior modification,

Es wurde zu Verhaltensmodifikation,

just as Norbert Wiener had worried it might.

genauso wie Norbert Wiener es befürchtet hat.

And so I can't call these things social networks anymore.

Deshalb kann ich diese Dinge nicht mehr soziale Netzwerke nennen.

I call them behavior modification empires.

Ich nenne sie Imperien der Verhaltensmodifikation.

(Applause)

(Applaus)

And I refuse to vilify the individuals.

Und ich weigere mich, diese Individuen zu verunglimpfen.

I have dear friends at these companies,

Ich habe bei diesen Unternehmen geschätzte Freunde,

sold a company to Google, even though I think it's one of these empires.

habe ein Unternehmen an Google verkauft, obwohl es eines dieser Imperien ist.

I don't think this is a matter of bad people who've done a bad thing.

Ich glaube, es ist kein Fall von bösen Leuten, die etwas Schlimmes getan haben.

I think this is a matter of a globally tragic,

Ich glaube, es ist ein Fall eines global tragischen,

astoundingly ridiculous mistake,

erstaunlich albernen Fehlers,

rather than a wave of evil.

anstatt einer Welle des Bösen.

Let me give you just another layer of detail

Lassen Sie mich Ihnen nur ein paar weitere Details geben,

into how this particular mistake functions.

wie genau dieser Fehler funktioniert.

So with behaviorism,

Mit Behaviourismus gibt man also

you give the creature, whether it's a rat or a dog or a person,

dem Wesen, egal ob es eine Ratte, ein Hund oder ein Mensch ist,

little treats and sometimes little punishments

kleine Belohnungen und manchmal kleine Bestrafungen

as feedback to what they do.

als Rückmeldung zu dem, was es tut.

So if you have an animal in a cage, it might be candy and electric shocks.

Hat man ein Tier in einem Käfig, kann es Süßes und Elektroschocks sein.

But if you have a smartphone,

Hat man aber ein Smartphone,

it's not those things, it's symbolic punishment and reward.

dann ist es keines dieser Dinge, sondern symbolische Bestrafungen und Belohnungen.

Pavlov, one of the early behaviorists,

Pawlow, einer der ersten Behaviouristen,

demonstrated the famous principle.

demonstrierte das bekannte Prinzip.

You could train a dog to salivate just with the bell, just with the symbol.

Man kann einen Hund trainieren nur durch eine Glocke zu sabbern, nur durchs Symbol.

So on social networks,

Auf sozialen Netzwerken

social punishment and social reward function as the punishment and reward.

fungieren also soziale Bestrafungen und Belohnungen als Strafen und Belohnungen.

And we all know the feeling of these things.

Wir alle wissen, wie sich diese Dinge anfühlen.

You get this little thrill --

Man hat diesen Nervenkitzel --

"Somebody liked my stuff and it's being repeated."

"Jemand mag meine Sachen und es wiederholt sich."

Or the punishment: "Oh my God, they don't like me,

Oder die Strafe: "Oh mein Gott, sie mögen mich nicht,

maybe somebody else is more popular, oh my God."

vielleicht ist jemand anderes beliebter, oh mein Gott."

So you have those two very common feelings,

Man hat also diese zwei häufigen Gefühle

and they're doled out in such a way that you get caught in this loop.

und sie sind so verteilt, dass man in dieser Schleife gefangen ist.

As has been publicly acknowledged by many of the founders of the system,

Viele Gründer dieses Systems haben öffentlich zugegeben,

everybody knew this is what was going on.

dass jeder wusste, was vor sich geht.

But here's the thing:

Hier ist jedoch der Punkt:

traditionally, in the academic study of the methods of behaviorism,

In wissenschaftlichen Studien der Methoden des Behaviourismus

gab es traditionell Vergleiche positiver und negativer Reize.

there have been comparisons of positive and negative stimuli.

In this setting, a commercial setting,

In dieser Umgebung, einer kommerziellen Umgebung,

there's a new kind of difference

gibt es einen neuen Unterschied,

that has kind of evaded the academic world for a while,

der sich der wissenschaftlichen Welt für eine Zeit entzogen hat.

and that difference is that whether positive stimuli

Und dieser Unterschied ist, dass egal ob positive Reize

are more effective than negative ones in different circumstances,

unter bestimmten Umständen effektiver als negative sind,

the negative ones are cheaper.

so sind die negativen günstiger.

They're the bargain stimuli.

Sie sind die gehandelten Reize.

So what I mean by that is it's much easier

Was ich also damit meine, ist, dass es viel leichter ist,

to lose trust than to build trust.

Vertrauen zu verlieren, als Vertrauen aufzubauen.

It takes a long time to build love.

Es benötigt viel Zeit Liebe aufzubauen.

It takes a short time to ruin love.

Es braucht wenig Zeit, um Liebe zu zerstören.

Now the customers of these behavior modification empires

Nun sind die Kunden dieser Imperien der Verhaltensmodifikation

are on a very fast loop.

in einer sehr schnellen Schleife.

They're almost like high-frequency traders.

Sie sind fast wie Hochfrequenzhändler.

They're getting feedbacks from their spends

Sie kriegen Feedback von ihrem Konsum

or whatever their activities are if they're not spending,

oder welchen Aktivitäten auch immer, wenn sie nicht konsumieren

and they see what's working, and then they do more of that.

und sie sehen, was funktioniert und sie wollen mehr davon.

And so they're getting the quick feedback,

So kriegen sie also das schnelle Feedback,

which means they're responding more to the negative emotions,

welches bedeutet, dass sie den negativen Emotionen mehr Beachtung schenken,

because those are the ones that rise faster, right?

da diese sich schneller entwickeln, richtig?

And so therefore, even well-intentioned players

Deshalb werden sogar gut gesinnte Mitspieler,

who think all they're doing is advertising toothpaste

die denken, dass nur Werbung für Zahnpasta gemacht wird,

end up advancing the cause of the negative people,

letztendlich dazu beitragen, die Anliegen negativer Leute,

the negative emotions, the cranks,

negativer Emotionen, der Spinner,

the paranoids,

der Paranoiden, der Zyniker

the cynics, the nihilists.

und der Nihilisten voranzutreiben.

Those are the ones who get amplified by the system.

Dies sind diejenigen, die vom System bestärkt werden.

And you can't pay one of these companies to make the world suddenly nice

Man kann keines dieser Unternehmen so leicht dafür bezahlen,

um die Welt plötzlich nett zu machen und die Demokratie zu verbessern,

and improve democracy

nearly as easily as you can pay to ruin those things.

wie man sie dafür bezahlen kann, diese Dinge zu ruinieren.

And so this is the dilemma we've gotten ourselves into.

Das ist das Dilemma, in das wir uns gebracht haben.

The alternative is to turn back the clock, with great difficulty,

Die Alternative ist, die Zeit mit großen Schwierigkeiten zurückzudrehen

and remake that decision.

und diese Entscheidung neu zu treffen.

Remaking it would mean two things.

Es neu zu gestalten, würde zwei Dinge bedeuten.

It would mean first that many people, those who could afford to,

Es würde erstens bedeuten, dass viele Leute, die es sich leisten können,

would actually pay for these things.

tatsächlich für diese Dinge bezahlen würden.

You'd pay for search, you'd pay for social networking.

Man würde für die Suche und für soziale Medien bezahlen.

How would you pay? Maybe with a subscription fee,

Wie würdest man bezahlen? Vielleicht mit einer Anmeldungsgebühr

maybe with micro-payments as you use them.

vielleicht mit Mikrotransaktionen, während man sie nutzt.

There's a lot of options.

Es gibt viele Optionen.

If some of you are recoiling, and you're thinking,

Wenn manche von Ihnen zurückschrecken und denken:

"Oh my God, I would never pay for these things.

"Oh mein Gott, ich würde nie für diese Dinge zahlen.

How could you ever get anyone to pay?"

Wie könnte man jemanden dazu bringen, zu zahlen?"

I want to remind you of something that just happened.

Dann möchte ich Sie an etwas erinnern, dass gerade passiert ist.

Around this same time

Zu der selben Zeit,

that companies like Google and Facebook were formulating their free idea,

zu der Unternehmen wie Google und Facebook ihre freies Konzept vorstellten,

a lot of cyber culture also believed that in the future,

glaubten viele Vertreter digitaler Kultur, dass in der Zukunft

televisions and movies would be created in the same way,

Fernseher und Filme in etwa so gemacht werden würden

kind of like the Wikipedia.

wie Wikipedia.

But then, companies like Netflix, Amazon, HBO,

Dann sagten jedoch Unternehmen wie Netflix, Amazon, HBO:

said, "Actually, you know, subscribe. We'll give you give you great TV."

"Wisst ihr was, abonniert uns. Wir liefern euch großartiges Fernsehen."

And it worked!

Und es hat funktioniert!

We now are in this period called "peak TV," right?

Wir befinden uns nun in der "Peak TV" genannten Periode, oder?

So sometimes when you pay for stuff, things get better.

Wenn man also für Dinge bezahlt, werden sie besser.

We can imagine a hypothetical --

Wir können uns eine hypothetische --

(Applause)

(Applaus)

We can imagine a hypothetical world of "peak social media."

Wir können uns eine hypothetische Welt des "Peak Social Media" vorstellen.

What would that be like?

Wie wäre das?

It would mean when you get on, you can get really useful,

Es würde bedeuten, dass man, sobald man online geht, sehr nützliche,

authoritative medical advice instead of cranks.

maßgebliche medizinische Ratschläge anstelle von Spinnern sieht.

It could mean when you want to get factual information,

Es könnte bedeuten, man bekäme Fakten, wenn man möchte,

there's not a bunch of weird, paranoid conspiracy theories.

und es gäbe keinen Haufen schräger, paranoider Verschwörungstheorien.

We can imagine this wonderful other possibility.

Wir können uns diese wunderbar andere Möglichkeit vorstellen.

Ah.

Ah.

I dream of it. I believe it's possible.

Ich träume davon. Ich glaube, dass es möglich ist.

I'm certain it's possible.

Ich bin sicher, dass es möglich ist.

And I'm certain that the companies, the Googles and the Facebooks,

Und ich bin sicher, dass die Unternehmen, die Googles und Facebooks,

would actually do better in this world.

sich in dieser Welt besser machen würden.

I don't believe we need to punish Silicon Valley.

Ich glaube nicht, dass wir Silicon Valley bestrafen sollten.

We just need to remake the decision.

Wir müssen nur die Entscheidung neu gestalten.

Of the big tech companies,

Von den großen Technologieunternehmen

it's really only two that depend on behavior modification and spying

sind es nur zwei, die auf Verhaltensmodifikation

und Spionage als Geschäftsmodell vertrauen.

as their business plan.

It's Google and Facebook.

Das sind Google und Facebook.

(Laughter)

(Gelächter)

And I love you guys.

Leute, ich liebe euch.

Really, I do. Like, the people are fantastic.

Ich tue es wirklich. Die Leute sind fantastisch.

I want to point out, if I may,

Wenn ich dürfte, würde ich gerne darauf hinweisen,

if you look at Google,

dass beispielsweise Google,

they can propagate cost centers endlessly with all of these companies,

endlos Kostenstellen verbreiten kann mit all diesen Unternehmen,

but they cannot propagate profit centers.

sie aber keine Profitzentren verbreiten können.

They cannot diversify, because they're hooked.

Sie können nicht diversifizieren, weil sie gefangen sind.

Sie sind in diesem Modell gefangen, genau wie ihre eigenen Nutzer.

They're hooked on this model, just like their own users.

They're in the same trap as their users,

Sie sind in derselben Falle, wie ihre Nutzer

and you can't run a big corporation that way.

und so kann man ein großes Unternehmen nicht führen.

So this is ultimately totally in the benefit of the shareholders

Dies ist letztlich ganz zum Vorteil der Aktionäre

and other stakeholders of these companies.

und anderer Interessensgruppen dieser Unternehmen.

It's a win-win solution.

Es ist eine Win-Win-Lösung.

It'll just take some time to figure it out.

Es wird nur ein wenig Zeit brauchen das herauszufinden.

A lot of details to work out,

Viele Details sind herauszuarbeitend,

totally doable.

absolut machbar.

(Laughter)

(Gelächter)

I don't believe our species can survive unless we fix this.

Ich glaube nicht, dass unsere Spezies überleben kann, es sei denn wir lösen das.

We cannot have a society

Wir können keine Gesellschaft haben,

in which, if two people wish to communicate,

in der, sofern zwei Leute miteinander kommunizieren wollen,

the only way that can happen is if it's financed by a third person

kein Weg daran vorbeiführt, dass dies nur durch Finanzierung einer dritten Person

who wishes to manipulate them.

erfolgen kann, die diese manipulieren will.

(Applause)

(Applaus)

(Applause ends)

(Applaus endet)

In the meantime, if the companies won't change,

Falls sich die Unternehmen in der Zwischenzeit nicht ändern,

delete your accounts, OK?

löschen Sie ihre Accounts, okay?

(Laughter)

(Gelächter)

(Applause)

(Applaus)

That's enough for now.

Das reicht für jetzt.

Thank you so much.

Vielen Dank.

(Applause)

(Applaus)