Is AI the most important technology of the century?

Übersetzung: Radhika Marathe Lektorat: Andrea Hielscher

Was ist das wichtigste Jahrhundert der Menschheitsgeschichte?

What's the most important century in human history?

Some might argue it’s a period of extensive military campaigning,

Manche meinen, es sei eine Epoche großer Feldzüge

like Alexander the Great’s in the 300s BCE,

wie die Alexanders des Großen im 4. Jahrhundert v. Chr.,

which reshaped political and cultural borders.

die die politischen und kulturellen Grenzen neu zog.

Others might cite the emergence of a major religion,

Andere führen die Entstehung einer großen Religion an,

such as Islam in the 7th century,

etwa des Islams im 7. Jahrhundert,

which codified and spread values across such borders.

der Werte kodifizierte und über solche Grenzen verbreitete.

Or perhaps it’s the Industrial Revolution of the 1700s

Oder es ist die industrielle Revolution im 18. Jahrhundert,

that transformed global commerce

die den Welthandel veränderte

and redefined humanity's relationship with labor.

und das Verhältnis Mensch-Arbeit neu definierte.

Whatever the answer, it seems like any century vying for that top spot

Jedes Jahrhundert, das um diesen Spitzenplatz kämpft,

is at a moment of great change—

bedeutet eine Zeit großen Wandels,

when the actions of our ancestors shifted humanity’s trajectory

als unsere Vorfahren das Geschick der Menschheit

for centuries to come.

für Jahrhunderte neu bestimmten.

So if this is our metric, is it possible that right now—

Wenn das unser Maßstab ist, passiert dann nicht gerade jetzt,

this century— is the most important one yet?

in diesem Jahrhundert, das bisher Wichtigste?

The 21st century has already proven to be a period of rapid technological growth.

Das 21. Jahrhundert erweist sich bereits als Ära rasanten technischen Wachstums.

Phones and computers have accelerated the pace of life.

Telefone und Computer beschleunigen das Lebenstempo.

And we’re likely on the cusp of developing new transformative technologies,

Wir entwickeln wohl gerade neue, umwälzende Technologien,

like advanced artificial intelligence,

wie fortgeschrittene künstliche Intelligenz,

that could entirely change the way people live.

die unser Leben völlig verändern könnten.

Meanwhile, many technologies we already have

Gleichzeitig erhöhen viele bestehende Technologien

contribute to humanity’s unprecedented levels of existential risk—

in nie dagewesener Weise das Existenzrisiko der Menschheit --

that’s the risk of our species going extinct

das Risiko des Aussterbens unserer Spezies

or experiencing some kind of disaster that permanently limits

oder eine Katastrophe,

die unser Wachsen und Gedeihen dauerhaft einschränkt.

humanity’s ability to grow and thrive.

The invention of the atomic bomb marked a major rise in existential risk,

Die Erfindung der Atombombe bedeutete ein erhöhtes Existenzrisiko,

and since then we’ve only increased the odds against us.

und seither wendet sich immer mehr gegen uns.

It’s profoundly difficult to estimate the odds

Es ist sehr schwer abschätzbar,

ob es dieses Jahrhundert zu einer Existenzkatastrophe kommt.

of an existential collapse occurring this century.

Very rough guesses put the risk of existential catastrophe

Sehr grob geschätzt, liegt das Risiko einer Existenzkatastrophe

due to nuclear winter and climate change at around 0.1%,

durch nuklearen Winter und Klimawandel bei etwa 0,1 %

und die Chance eines ähnlichen Kollapses durch eine Pandemie

with the odds of a pandemic causing the same kind of collapse

at a frightening 3%.

bei erschreckenden 3 %.

Given that any of these disasters could mean the end of life as we know it,

Da jede dieser Katastrophen das Ende des bisher bekannten Lebens bedeuten könnte,

these aren’t exactly small figures,

sind das keine kleinen Zahlen.

And it’s possible this century could see the rise of new technologies

In diesem Jahrhundert könnten neue Technologien entstehen,

that introduce more existential risks.

die weitere Existenzrisiken mit sich bringen.

AI experts have a wide range of estimates regarding

Die Schätzungen von Experten, wann eine allgemeine KI verfügbar ist,

when artificial general intelligence will emerge,

gehen weit auseinander.

but according to some surveys, many believe it could happen this century.

Viele rechnen laut Umfragen jedoch noch dieses Jahrhundert damit.

Currently, we have relatively narrow forms of artificial intelligence,

Derzeit gibt es relativ begrenzte Formen künstlicher Intelligenz

which are designed to do specific tasks like play chess or recognize faces.

für bestimmte Aufgaben wie Schachspielen oder Gesichtserkennung.

Even narrow AIs that do creative work are limited to their singular specialty.

Sogar begrenzte KI für kreative Arbeit ist auf ihr Spezialgebiet beschränkt.

But artificial general intelligences, or AGIs,

Doch künstliche allgemeine Intelligenz (AGI)

könnte sich an jede Art Aufgaben anpassen und sie ausführen

would be able to adapt to and perform any number of tasks,

und würden ihre menschlichen Gegenspieler schnell übertreffen.

quickly outpacing their human counterparts.

There are a huge variety of guesses about what AGI could look like,

Es gibt viele Vermutungen darüber, wie AGI aussehen könnte

and what it would mean for humanity to share the Earth

und was es für die Menschheit bedeuten würde,

with another sentient entity.

die Erde mit einem anderen Wesen zu teilen.

AGIs might help us achieve our goals,

Mit AGI könnten wir unsere Ziele erreichen;

they might regard us as inconsequential,

sie könnte uns als unbedeutend

oder als Hindernis betrachten, das schnell beseitigt werden muss.

or, they might see us as an obstacle to swiftly remove.

So in terms of existential risk,

In Bezug auf das Existenzrisiko

müssen die Werte der neuen Technologie unbedingt mit unseren übereinstimmen --

it's imperative the values of this new technology align with our own.

This is an incredibly difficult philosophical and engineering challenge

eine äußerst schwierige philosophisch-technische Herausforderung,

that will require a lot of delicate, thoughtful work.

die viel Feinarbeit und Überlegung erfordert.

Yet, even if we succeed, AGI could still lead to another complicated outcome.

Selbst wenn das gelingt,

könnte die AGI zu einem weiteren komplizierten Ergebnis führen.

Let’s imagine an AGI emerges with deep respect for human life

Stellen wir uns eine AGI mit hohem Respekt vor Menschenleben

and a desire to solve all humanity’s troubles.

und dem Wunsch vor, alle Probleme der Menschheit zu lösen.

But to avoid becoming misaligned,

Damit sie aber nicht fehlgeleitet wird,

it's been developed to be incredibly rigid about its beliefs.

wird sie mit sehr starken Prinzipien ausgestattet.

If these machines became the dominant power on Earth,

Werden diese Maschinen zur dominierenden Macht der Erde,

their strict values might become hegemonic,

könnten ihre strengen Werte hegemonial werden

locking humanity into one ideology that would be incredibly resistant to change.

und die Menschheit in eine starre, unabänderliche Ideologie zwingen.

History has taught us that no matter how enlightened

Die Geschichte lehrt uns:

Egal, wie aufgeklärt eine Zivilisation scheint,

a civilization thinks they are,

they are rarely up to the moral standards of later generations.

sie entspricht selten den Moralvorstellungen späterer Generationen.

And this kind of value lock in could permanently distort or constrain

Diese Art der Wertebindung könnte das moralische Wachstum der Menschheit

humanity’s moral growth.

dauerhaft verzerren oder beschränken.

There's a ton of uncertainty around AGI,

Beim Thema AGI ist kaum etwas sicher

and it’s profoundly difficult to predict how any existential risks

und es lässt sich nur schwer vorhersagen,

wie sich Existenzrisiken im nächsten Jahrhundert entwickeln.

will play out over the next century.

It’s also possible that new, more pressing concerns

Vielleicht machen aber neue, dringendere Probleme

might render these risks moot.

diese Risiken überflüssig.

But even if we can't definitively say that ours is the most important century,

Auch wenn unser Jahrhundert vermutlich nicht das bedeutsamste ist,

it still seems like the decisions we make might have a major impact

scheinen unsere Entscheidungen

doch großen Einfluss auf die Zukunft der Menschheit zu haben.

on humanity’s future.

So maybe we should all live like the future depends on us—

Wir sollten also leben, als hinge die Zukunft von uns ab --

because actually, it just might.

denn das könnte wirklich der Fall sein.