The 4 greatest threats to the survival of humanity

Übersetzung: Julia Stipsits Lektorat: Andrea Hielscher

In January of 1995, Russia detected a nuclear missile headed its way.

Im Januar 1995 entdeckte Russland eine Atomrakete, die auf es zusteuerte.

The alert went all the way to the president,

Der Alarm ging bis zum Präsidenten,

who was deciding whether to strike back

der überlegte, ob er zurückschlagen solle,

when another system contradicted the initial warning.

als ein weiteres System die erste Warnung widerlegte.

What they thought was the first missile in a massive attack

Was man für die erste Rakete eines Großangriffs gehalten hatte,

was actually a research rocket studying the Northern Lights.

entpuppte sich als Forschungsrakete, die das Polarlicht untersuchte.

This incident happened after the end of the Cold War,

Der Zwischenfall geschah nach dem Ende des Kalten Krieges,

but was nevertheless one of the closest calls we’ve had

war aber dennoch eine hochbrisante Situation,

to igniting a global nuclear war.

die fast einen Atomkrieg ausgelöst hätte.

With the invention of the atomic bomb,

Mit der Erfindung der Atombombe

humanity gained the power to destroy itself for the first time in our history.

bekam die Menschheit erstmals in der Geschichte die Macht,

sich selbst zu zerstören.

Since then, our existential risk—

Seither ist unser existenzielles Risiko -–

risk of either extinction

entweder das der Auslöschung

or the unrecoverable collapse of human civilization—

oder des endgültigen Zusammenbruchs der Zivilisation –-

has steadily increased.

stetig gewachsen.

It’s well within our power to reduce this risk,

Wir könnten dieses Risiko sehr wohl minimieren,

but in order to do so,

aber in diesem Fall müssen wir verstehen,

we have to understand which of our activities

welche unserer Aktivitäten

pose existential threats now, and which might in the future.

aktuell und in Zukunft existentielle Gefahren darstellen.

So far, our species has survived 2,000 centuries,

Unsere Spezies hat bisher 200.000 Jahre überlebt

each with some extinction risk from natural causes—

und es gab immer wieder natürliche Gründe für ihre Auslöschung:

asteroid impacts, supervolcanoes, and the like.

Asteroideneinschläge, Supervulkane und dergleichen.

Assessing existential risk is an inherently uncertain business

Existenzielle Risiken einzuschätzen ist von Natur aus schwierig,

because usually when we try to figure out how likely something is,

denn wenn wir herausfinden wollen, wie wahrscheinlich etwas ist,

prüfen wir gewöhnlich, wie oft es schon passiert ist.

we check how often it's happened before.

But the complete destruction of humanity has never happened before.

Aber die völlige Auslöschung der Menschheit hat es noch nie gegeben.

While there’s no perfect method to determine our risk from natural threats,

Es gibt keine perfekte Methode, Naturkatastrophen vorherzusagen,

experts estimate it’s about 1 in 10,000 per century.

doch schätzen Experten das Risiko auf etwa 1 zu 10.000 pro Jahrhundert.

Nuclear weapons were our first addition to that baseline.

Atomwaffen waren die erste Erweiterung dieses Bestands.

While there are many risks associated with nuclear weapons,

Mit Atomwaffen sind viele Risiken verbunden,

the existential risk comes from the possibility

doch das existenzielle Risiko

of a global nuclear war that leads to a nuclear winter,

wäre ein weltweiter Atomkrieg mit einem nuklearen Winter,

where soot from burning cities blocks out the sun for years,

in dem der Ruß brennender Städte die Sonne jahrelang verdunkelt

causing the crops that humanity depends on to fail.

und überlebenswichtige Ernten vernichtet würden.

We haven't had a nuclear war yet,

Bisher gab es noch keinen Atomkrieg,

but our track record is too short to tell if they’re inherently unlikely

doch unsere Erfahrungsbilanz ist zu kurz, um das ausschließen zu können,

or we’ve simply been lucky.

oder wir hatten einfach Glück.

We also can’t say for sure

Auch ist nicht sicher,

whether a global nuclear war would cause a nuclear winter so severe

ob ein Atomkrieg einen so strengen nuklearen Winter auslösen würde,

it would pose an existential threat to humanity.

der die Menschheit vernichten könnte.

The next major addition to our existential risk was climate change.

Eine zusätzliche Erweiterung zu unserem existenziellen Risiko ist der Klimawandel.

Like nuclear war, climate change could result

Genau wie ein Atomkrieg könnte der Klimawandel

in a lot of terrible scenarios that we should be working hard to avoid,

viele schreckliche Situationen auslösen, die wir dringend vermeiden sollten,

but that would stop short of causing extinction or unrecoverable collapse.

auch wenn sie nicht zwangsläufig

zu Auslöschung oder Zusammenbruch führen würden.

We expect a few degrees Celsius of warming,

Wir erwarten eine Erwärmung um einige Grad Celsius,

but can’t yet completely rule out 6 or even 10 degrees,

doch können wir auch 6 oder sogar 10 Grad nicht völlig ausschließen.

which would cause a calamity of possibly unprecedented proportions.

Das würde eine Katastrophe bisher ungeahnten Ausmaßes bedeuten.

Even in this worst-case scenario,

Sogar in diesem Extremfall ist unklar,

it’s not clear whether warming would pose a direct existential risk,

ob die Erwärmung unsere Existenz unmittelbar bedroht,

but the disruption it would cause would likely make us more vulnerable

aber die entstandenen Schäden würden uns vermutlich

für andere existenzielle Risiken anfällig machen.

to other existential risks.

The greatest risks may come from technologies that are still emerging.

Höchste Risiken könnten von gerade entstehendenTechnologien ausgehen.

Take engineered pandemics.

Nehmen wir künstlich erzeugte Pandemien.

The biggest catastrophes in human history have been from pandemics.

Die größten Katastrophen der Menschheitsgeschichte

entstanden durch Pandemien.

And biotechnology is enabling us to modify and create germs

Mit Biotechnologie können wir Erreger schaffen und modifizieren,

that could be much more deadly than naturally occurring ones.

die vielleicht tödlicher sind als natürliche.

Such germs could cause pandemics through biowarfare and research accidents.

Durch Biowaffen oder Laborunfälle könnten diese Erreger Pandemien verursachen.

Decreased costs of genome sequencing and modification,

Geringere Kosten für Erbgutentschlüsselung und -veränderung

along with increased availability of potentially dangerous information

sowie leichterer Zugang zu potentiell gefährlichen Informationen

like the published genomes of deadly viruses,

wie öffentlich zugänglichen Daten von tödlichen Viren

also increase the number of people and groups

vergrößern auch die Zahl der Menschen,

who could potentially create such pathogens.

die potenziell solche Pathogene herstellen könnten.

Another concern is unaligned AI.

Ein anderes Problem ist falsche Ausrichtung der KI.

Most AI researchers think this will be the century

Die meisten KI-Forscher glauben,

in nächster Zeit werde künstliche Intelligenz entwickelt,

where we develop artificial intelligence that surpasses human abilities

die die menschliche in allen Bereichen übertrifft.

across the board.

If we cede this advantage, we place our future in the hands

Wenn wir unseren Vorteil aufgeben, legen wir unsere Zukunft

in die Hände der Systeme, die wir schaffen.

of the systems we create.

Even if created solely with humanity’s best interests in mind,

Selbst wenn sie mit den besten Absichten für uns Menschen entsteht,

superintelligent AI could pose an existential risk

könnte superintelligente KI ein Existenzrisiko darstellen,

falls sie nicht perfekt auf menschliche Werte ausgerichtet ist --

if it isn’t perfectly aligned with human values—

a task scientists are finding extremely difficult.

eine Aufgabe, die Wissenschaftler extrem schwierig finden.

Based on what we know at this point,

Nach unserem derzeitigen Wissen

some experts estimate the anthropogenic existential risk

schätzen manche Experten

das vom Menschen verursachte existenzielle Risiko

is more than 100 times higher than the background rate of natural risk.

100-mal höher ein als das natürliche Risiko.

But these odds depend heavily on human choices.

Doch diese Chancen hängen stark von menschlichen Entscheidungen ab.

Because most of the risk is from human action, and it’s within human control.

Denn die meisten Risiken entstehen durch menschliches Handeln,

und darauf haben wir Einfluss.

If we treat safeguarding humanity's future as the defining issue of our time,

Wenn wir die Sicherung der Zukunft als Kernthema unserer Zeit betrachten,

we can reduce this risk.

können wir diese Risiken reduzieren.

Whether humanity fulfils its potential—

Ob die Menschheit ihr Potential ausschöpft

or not—

oder nicht,

is in our hands.

liegt in unserer Hand.