How will AI change the world?

Übersetzung: FAE Weiden Lektorat: Andrea Hielscher

In the coming years, artificial intelligence

In den nächsten Jahren wird künstliche Intelligenz

is probably going to change your life, and likely the entire world.

wohl unser Leben und die ganze Welt verändern.

But people have a hard time agreeing on exactly how.

Doch weiß man nicht genau wie.

The following are excerpts from an interview

Hier Auszüge eines Interviews,

where renowned computer science professor and AI expert Stuart Russell

in dem der renommierte Informatikprofessor und KI-Experte Stuart Russell

helps separate the sense from the nonsense.

Sinn und Unsinn voneinander trennt.

There’s a big difference between asking a human to do something

Es ist ein großer Unterschied, einen Menschen um etwas zu bitten

and giving that as the objective to an AI system.

und dasselbe Ziel einem KI-System zu setzen.

When you ask a human to get you a cup of coffee,

Bittet man einen Menschen um eine Tasse Kaffee,

you don’t mean this should be their life’s mission,

ist das für ihn nicht die Aufgabe seines Lebens,

and nothing else in the universe matters.

als ob es nichts anderes gäbe.

Even if they have to kill everybody else in Starbucks

Selbst wenn er dafür bei Starbucks vor Geschäftsschluss

to get you the coffee before it closes— they should do that.

alle anderen töten müsste, sollte er es tun.

No, that’s not what you mean.

Das wollen Sie sicher nicht.

All the other things that we mutually care about,

Alles andere, was uns gemeinsam wichtig ist,

they should factor into your behavior as well.

sollte unser Verhalten beeinflussen.

And the problem with the way we build AI systems now

Das Problem der heutigen KI-Systeme:

Wir geben ihnen ein festes Ziel.

is we give them a fixed objective.

Algorithmen benötigen eine detaillierte Bestimmung des Ziels.

The algorithms require us to specify everything in the objective.

And if you say, can we fix the acidification of the oceans?

Können wir zum Beispiel die Übersäuerung der Ozeane beheben?

Yeah, you could have a catalytic reaction that does that extremely efficiently,

Ja, mit einer extrem effizienten katalytischen Reaktion --

sie verbraucht aber ein Viertel des Sauerstoffs der Atmosphäre,

but it consumes a quarter of the oxygen in the atmosphere,

which would apparently cause us to die fairly slowly and unpleasantly

was offenbar unseren Stunden dauernden,

langsamen und qualvollen Tod zur Folge hätte.

over the course of several hours.

So, how do we avoid this problem?

Wie lässt sich dieses Problem vermeiden?

You might say, okay, well, just be more careful about specifying the objective—

Nun, vielleicht sollten wir das Ziel sorgfältiger definieren --

don’t forget the atmospheric oxygen.

denken Sie an den Sauerstoff im All.

And then, of course, some side effect of the reaction in the ocean

Noch dazu vergiften Nebeneffekte der Reaktion im Ozean

poisons all the fish.

natürlich alle Fische.

Okay, well I meant don’t kill the fish either.

Die sollten wir natürlich auch nicht töten.

And then, well, what about the seaweed?

Und was ist mit dem Seetang?

Don’t do anything that’s going to cause all the seaweed to die.

Auch den sollten wir nicht sterben lassen.

And on and on and on.

Und so weiter.

And the reason that we don’t have to do that with humans is that

Warum müssen wir das den Menschen nicht erklären?

humans often know that they don’t know all the things that we care about.

Sie wissen oft, dass sie nicht alles wissen, was uns wichtig ist.

If you ask a human to get you a cup of coffee,

Bittet man einen Menschen um eine Tasse Kaffee

and you happen to be in the Hotel George Sand in Paris,

und zwar zufällig im Hotel George Sand in Paris,

where the coffee is 13 euros a cup,

wo eine Tasse Kaffee 13 Euro kostet,

it’s entirely reasonable to come back and say, well, it’s 13 euros,

ist es völlig vernünftig, zu sagen: “Nun, sie kostet 13 Euro --

are you sure you want it, or I could go next door and get one?

wollen Sie sie wirklich oder hole ich eine von nebenan?”

And it’s a perfectly normal thing for a person to do.

Das ist für einen Menschen eine ganz normale Sache.

To ask, I’m going to repaint your house—

Oder: “Ich streiche Ihr Haus neu --

kann ich die Dachrinnen abnehmen und dann wieder anmontieren?”

is it okay if I take off the drainpipes and then put them back?

We don't think of this as a terribly sophisticated capability,

Wir halten das für keine besondere Fähigkeit,

but AI systems don’t have it because the way we build them now,

doch KI-Systemen fehlt sie,

denn in ihrer heutigen Form brauchen sie ein Gesamtziel.

they have to know the full objective.

If we build systems that know that they don’t know what the objective is,

Erst Systeme, die wissen, dass sie nicht wissen, was das Ziel ist,

then they start to exhibit these behaviors,

sind zu solchem Verhalten fähig, wie etwa nachzufragen,

like asking permission before getting rid of all the oxygen in the atmosphere.

bevor sie den Sauerstoff in der Atmosphäre beseitigen.

In all these senses, control over the AI system

In diesem Sinne wird das KI-System

comes from the machine’s uncertainty about what the true objective is.

von der Unsicherheit der Maschine über das wahre Ziel gesteuert.

And it’s when you build machines that believe with certainty

Baut man Maschinen,

die mit Sicherheit glauben, das Ziel zu kennen,

that they have the objective,

that’s when you get this sort of psychopathic behavior.

dann kommt es zu solch psychopathischem Verhalten.

And I think we see the same thing in humans.

Das Gleiche gilt wohl beim Menschen.

What happens when general purpose AI hits the real economy?

Was passiert, wenn universelle KI auf die Realwirtschaft trifft?

How do things change? Can we adapt?

Was ändert sich? Können wir uns anpassen?

This is a very old point.

Das ist ein uraltes Thema.

Amazingly, Aristotle actually has a passage where he says,

Erstaunlicherweise sagt Aristoteles irgendwo:

look, if we had fully automated weaving machines

“Hätten wir vollautomatische Webstühle,

and plectrums that could pluck the lyre and produce music without any humans,

und Plektrons, die die Leier spielen und Musik ohne den Menschen machen,

then we wouldn’t need any workers.

dann bräuchten wir keine Arbeiter.”

That idea, which I think it was Keynes

Diese Idee, die Keynes 1930

who called it technological unemployment in 1930,

“technologische Arbeitslosigkeit” nannte,

is very obvious to people.

ist für die Menschen völlig klar.

They think, yeah, of course, if the machine does the work,

Sie denken: “Wenn die Maschine die Arbeit macht,

then I'm going to be unemployed.

bin ich natürlich arbeitslos.”

You can think about the warehouses that companies are currently operating

Denken Sie an die heutigen Lagerhallen einiger Firmen für den E-Commerce:

for e-commerce, they are half automated.

Sie arbeiten halbautomatisch.

The way it works is that an old warehouse— where you’ve got tons of stuff piled up

In einer alten Lagerhalle, wo sich tonnenweise Waren stapeln

all over the place and humans go and rummage around

und Menschen überall herumlaufen,

um Dinge zu holen und wegzuschicken,

and then bring it back and send it off—

there’s a robot who goes and gets the shelving unit

geht jetzt ein Roboter zur Regaleinheit,

that contains the thing that you need,

wo das gesuchte Ding liegt.

but the human has to pick the object out of the bin or off the shelf,

Aber ein Mensch muss es aus dem Behälter oder vom Regal nehmen,

because that’s still too difficult.

denn das ist noch zu schwierig.

But, at the same time,

Doch würden wir einen Roboter bauen, der so exakt ist,

would you make a robot that is accurate enough to be able to pick

dass er fast jedes erdenkliche Objekt auswählen könnte,

pretty much any object within a very wide variety of objects that you can buy?

das man kaufen kann?

That would, at a stroke, eliminate 3 or 4 million jobs?

Das würde auf einen Schlag 3 oder 4 Millionen Arbeitsplätze kosten.

There's an interesting story that E.M. Forster wrote,

E. M. Forster hat eine interessante Geschichte geschrieben,

where everyone is entirely machine dependent.

in der die Menschen völlig von Maschinen abhängig sind.

The story is really about the fact that if you hand over

Ihr Hauptthema:

Überlässt man Maschinen die Steuerung der Zivilisation,

the management of your civilization to machines,

you then lose the incentive to understand it yourself

dann verliert man den Anreiz, sie zu verstehen

or to teach the next generation how to understand it.

oder kommenden Generationen zu vermitteln.

You can see “WALL-E” actually as a modern version,

Als moderne Version dessen lässt sich “WALL·E” betrachten,

where everyone is enfeebled and infantilized by the machine,

wo eine Maschine alle Menschen schwächt und bevormundet --

and that hasn’t been possible up to now.

was bisher noch nicht möglich war.

We put a lot of our civilization into books,

Vieles unserer Zivilisation steht in Büchern,

but the books can’t run it for us.

doch die können sie nicht managen.

And so we always have to teach the next generation.

Also müssen wir die nächste Generation lehren.

If you work it out, it’s about a trillion person years of teaching and learning

Insgesamt sind das etwa eine Billion Menschenjahre des Lehrens und Lernens

and an unbroken chain that goes back tens of thousands of generations.

und eine ununterbrochene Kette seit Zehntausenden Generationen.

What happens if that chain breaks?

Was, wenn diese Kette bricht?

I think that’s something we have to understand as AI moves forward.

Das sollten wir nicht vergessen, während sich die KI entwickelt.

The actual date of arrival of general purpose AI—

Das genaue Ankunftsdatum der universellen KI

you’re not going to be able to pinpoint, it isn’t a single day.

lässt sich nicht auf einen einzigen Tag festlegen.

It’s also not the case that it’s all or nothing.

Es geht hier auch nicht um alles oder nichts.

The impact is going to be increasing.

Ihr Einfluss wird immer stärker.

So with every advance in AI,

Mit jedem Fortschritt

it significantly expands the range of tasks.

erweitert die KI wesentlich ihre Aufgabenbereiche.

So in that sense, I think most experts say by the end of the century,

Die meisten Experten sind sich relativ einig,

dass es Ende des Jahrhunderts sehr wahrscheinlich universelle KI gibt.

we’re very, very likely to have general purpose AI.

The median is something around 2045.

Etwa um 2045 sind wir wohl auf halber Strecke.

I'm a little more on the conservative side.

Ich bin da etwas konservativer.

I think the problem is harder than we think.

Das Problem ist wohl größer als vermutet.

I like what John McAfee, he was one of the founders of AI,

Mir gefällt John McAfees Antwort darauf -- er war einer der KI-Gründer.

when he was asked this question, he said, somewhere between five and 500 years.

Er sagte: “Irgendetwas zwischen 5 und 500 Jahren.”

And we're going to need, I think, several Einsteins to make it happen.

Um das zu schaffen, werden wir wohl einige Einsteins brauchen