What Is an AI Anyway? | Mustafa Suleyman | TED

Übersetzung: Cornelia Schlesinger Lektorat: Andrea Hielscher

I want to tell you what I see coming.

Ich möchte Ihnen sagen, was ich kommen sehe.

I've been lucky enough to be working on AI for almost 15 years now.

Ich habe das Glück, seit fast 15 Jahren an KI zu arbeiten.

Back when I started, to describe it as fringe would be an understatement.

Sie damals als Randerscheinung zu beschreiben, wäre untertrieben.

Researchers would say, “No, no, we’re only working on machine learning.”

Forscher sagten: „Nein, wir arbeiten nur an maschinellem Lernen.“

Because working on AI was seen as way too out there.

An KI zu arbeiten, galt als abgehoben.

In 2010, just the very mention of the phrase “AGI,”

2010 erntete man bei der bloßen Erwähnung von “AGI”,

artificial general intelligence,

künstlicher allgemeiner Intelligenz,

would get you some seriously strange looks

seltsame Blicke

and even a cold shoulder.

oder man wurde ignoriert.

"You're actually building AGI?" people would say.

„Ihr baut tatsächlich AGI?“, wurde man gefragt.

"Isn't that something out of science fiction?"

„Ist das nicht Science-Fiction?“

People thought it was 50 years away or 100 years away,

Die Leute dachten, das sei noch 50 oder 100 Jahre entfernt,

if it was even possible at all.

wenn es überhaupt möglich wäre.

Talk of AI was, I guess, kind of embarrassing.

Über KI zu reden, war irgendwie peinlich.

People generally thought we were weird.

Die Leute hielten uns allgemein für seltsam.

And I guess in some ways we kind of were.

Gewissermaßen waren wir das wohl auch.

It wasn't long, though, before AI started beating humans

Doch schon nach kurzer Zeit

besiegte die KI den Menschen bei einer Reihe von Aufgaben,

at a whole range of tasks

that people previously thought were way out of reach.

die man ihr eigentlich nicht zugetraut hatte:

Understanding images,

Bilder verstehen,

translating languages,

Sprachen übersetzen,

transcribing speech,

Sprache transkribieren,

playing Go and chess

Go und Schach spielen

and even diagnosing diseases.

und sogar Krankheiten diagnostizieren.

People started waking up to the fact

Man begann zu begreifen,

that AI was going to have an enormous impact,

dass KI enormen Einfluss haben würde.

and they were rightly asking technologists like me

Und man stellte Technologen wie mir

some pretty tough questions.

zu Recht ziemlich schwierige Fragen:

Is it true that AI is going to solve the climate crisis?

Stimmt es, dass KI die Klimakrise lösen wird?

Will it make personalized education available to everyone?

Macht sie personalisierte Bildung für alle zugänglich?

Does it mean we'll all get universal basic income

Bekommen wir alle ein bedingungsloses Grundeinkommen

and we won't have to work anymore?

und müssen nicht mehr arbeiten?

Should I be afraid?

Müssen wir Angst haben?

What does it mean for weapons and war?

Was bedeutet das für Waffen und Krieg?

Und natürlich: Wird China gewinnen?

And of course, will China win?

Are we in a race?

Sind wir Konkurrenten?

Are we headed for a mass misinformation apocalypse?

Steuern wir auf eine Massenapokalypse der Fehlinformationen zu?

All good questions.

Alles gute Fragen.

But it was actually a simpler

Aber es war eine einfachere und viel grundlegendere Frage,

and much more kind of fundamental question that left me puzzled.

die mich stutzig machte.

One that actually gets to the very heart of my work every day.

Eine, die meine tägliche Arbeit auf den Punkt bringt.

One morning over breakfast,

Eines Morgens spielte mein sechsjähriger Neffe Caspian

my six-year-old nephew Caspian was playing with Pi,

beim Frühstück mit Pi,

der KI, die ich bei Inflection, meiner letzten Firma, entwickelt hatte.

the AI I created at my last company, Inflection.

With a mouthful of scrambled eggs,

Den Mund voller Rührei, sah er mich an und sagte:

he looked at me plain in the face and said,

"But Mustafa, what is an AI anyway?"

„Mustafa, was ist eigentlich eine KI?”

He's such a sincere and curious and optimistic little guy.

Er ist so ein offener, neugieriger, optimistischer kleiner Kerl.

He'd been talking to Pi about how cool it would be if one day in the future,

Er hatte mit Pi darüber gesprochen, wie cool es wäre,

wenn er eines Tages Dinosaurier im Zoo besuchen könnte.

he could visit dinosaurs at the zoo.

And how he could make infinite amounts of chocolate at home.

Und wie er zu Hause unendlich viel Schokolade herstellen könnte.

And why Pi couldn’t yet play I Spy.

Und warum Pi noch nicht “I Spy” spielen konnte.

"Well," I said, "it's a clever piece of software

“Nun”, sagte ich, “es ist eine clevere Software,

that's read most of the text on the open internet,

die sehr viele Texte im freien Internet gelesen hat

and it can talk to you about anything you want."

und mit dir über alles Mögliche reden kann.“

"Right.

„Okay.

So like a person then?"

Also wie ein Mensch?“

I was stumped.

Ich war baff.

Genuinely left scratching my head.

Ich kratze mich am Kopf.

All my boring stock answers came rushing through my mind.

All meine langweiligen Standardantworten gingen mir durch den Kopf.

"No, but AI is just another general-purpose technology,

„KI ist nur eine weitere Allzwecktechnologie

like printing or steam."

wie Drucken oder Dampf.

It will be a tool that will augment us

Es wird ein Tool sein, das uns ergänzt

and make us smarter and more productive.

und uns intelligenter und produktiver macht.

And when it gets better over time,

Wenn sie mit der Zeit besser wird,

it'll be like an all-knowing oracle

ist sie wie ein allwissendes Orakel,

that will help us solve grand scientific challenges."

mit dessen Hilfe wir große wissenschaftliche Fragen lösen.“

You know, all of these responses started to feel, I guess,

All diese Antworten

klangen ein bisschen defensiv.

a little bit defensive.

Besser geeignet für ein Politikseminar

And actually better suited to a policy seminar

than breakfast with a no-nonsense six-year-old.

als für ein Frühstück mit einem sachlichen Sechsjährigen.

"Why am I hesitating?" I thought to myself.

„Warum zögere ich?“, fragte ich mich.

You know, let's be honest.

Seien wir mal ehrlich.

My nephew was asking me a simple question

Mein Neffe stellte mir eine einfache Frage,

that those of us in AI just don't confront often enough.

mit der wir, die an KI arbeiten, einfach nicht oft genug konfrontiert werden.

What is it that we are actually creating?

Was entwickeln wir da eigentlich?

What does it mean to make something totally new,

Was bedeutet es, etwas völlig Neues zu machen,

fundamentally different to any invention that we have known before?

grundlegend anders als jede bisherige Erfindung?

It is clear that we are at an inflection point

Es ist klar:

Wir stehen an einem Wendepunkt in der Geschichte der Menschheit.

in the history of humanity.

On our current trajectory,

Auf unserem aktuellen Weg

we're headed towards the emergence of something

entsteht gerade etwas,

that we are all struggling to describe,

das wir alle nur schwer beschreiben können.

and yet we cannot control what we don't understand.

Aber was wir nicht verstehen, können wir nicht steuern.

And so the metaphors,

Die Metaphern,

the mental models,

die geistigen Modelle,

the names, these all matter

die Namen,

all das ist wichtig, wenn wir das Beste aus KI herausholen

if we’re to get the most out of AI whilst limiting its potential downsides.

und gleichzeitig potenzielle Nachteile begrenzen wollen.

As someone who embraces the possibilities of this technology,

Als Menschen, die die Möglichkeiten dieser Technologie schätzen,

but who's also always cared deeply about its ethics,

denen aber auch ethische Aspekte am Herzen liegen,

we should, I think,

sollten wir ganz einfach beschreiben können,

be able to easily describe what it is we are building.

was wir da gerade entwickeln.

And that includes the six-year-olds.

Selbst einem Sechsjährigen.

So it's in that spirit that I offer up today the following metaphor

In diesem Sinne biete ich heute die folgende Metapher an,

for helping us to try to grapple with what this moment really is.

damit wir besser begreifen können, was gerade passiert.

I think AI should best be understood

Ich denke, KI sollte

as something like a new digital species.

als eine Art neue digitale Spezies verstanden werden.

Now, don't take this too literally,

Nehmen Sie das nicht zu wörtlich,

but I predict that we'll come to see them as digital companions,

aber ich sage voraus, dass wir sie als digitalen Begleiter betrachten werden.

new partners in the journeys of all our lives.

Als neuen Partner auf der Reise durch unser ganzes Leben.

Whether you think we’re on a 10-, 20- or 30-year path here,

Egal, ob Sie glauben, dass es hier um 10, 20 oder 30 Jahre geht.

this is, in my view, the most accurate and most fundamentally honest way

Das ist wohl die genaueste und ehrlichste Art zu beschreiben,

of describing what's actually coming.

was tatsächlich passiert.

And above all, it enables everybody to prepare for

Vor allem ermöglicht es jedem, sich darauf vorzubereiten

and shape what comes next.

und mitzugestalten, wie es weitergeht.

Now I totally get, this is a strong claim,

Das ist eine starke Behauptung,

and I'm going to explain to everyone as best I can why I'm making it.

und ich werde so gut ich kann erklären, warum ich sie aufstelle.

But first, let me just try to set the context.

Zuerst möchte ich den Kontext darstellen.

From the very first microscopic organisms,

Von den allerersten winzigen Organismen an

life on Earth stretches back billions of years.

reicht das Leben auf der Erde Jahrmilliarden zurück.

Over that time, life evolved and diversified.

In dieser Zeit hat es sich weiterentwickelt und differenziert.

Then a few million years ago, something began to shift.

Dann, vor ein paar Millionen Jahren, veränderte sich etwas.

After countless cycles of growth and adaptation,

Nach unzähligen Zyklen von Wachstum und Anpassung

one of life’s branches began using tools, and that branch grew into us.

begann einer der Zweige des Lebens, Werkzeuge zu benutzen,

und aus diesem Zweig entstanden wir.

We went on to produce a mesmerizing variety of tools,

Wir entwickelten eine faszinierende Vielfalt von Werkzeugen,

at first slowly and then with astonishing speed,

erst langsam und dann unglaublich schnell.

we went from stone axes and fire

Von Steinäxten und Feuer

to language, writing and eventually industrial technologies.

zu Sprache, Schrift und schließlich industriellen Technologien.

One invention unleashed a thousand more.

Jede Erfindung führte zu tausend weiteren.

And in time, we became homo technologicus.

Mit der Zeit wurden wir zum Homo technologicus.

Around 80 years ago,

Vor rund 80 Jahren begann ein weiterer neuer Technologiezweig.

another new branch of technology began.

With the invention of computers,

Mit Erfindung des Computers

we quickly jumped from the first mainframes and transistors

gingen wir rasch von den ersten Großrechnern und Transistoren

to today's smartphones and virtual-reality headsets.

zu den heutigen Smartphones und Virtual-Reality-Headsets über.

Information, knowledge, communication, computation.

Information, Wissen, Kommunikation, Berechnung.

In this revolution,

In dieser Revolution

creation has exploded like never before.

verlief die Entwicklung explosionsartig wie nie zuvor.

And now a new wave is upon us.

Jetzt rollt eine neue Welle auf uns zu:

Artificial intelligence.

künstliche Intelligenz.

These waves of history are clearly speeding up,

Diese Wellen der Geschichte werden immer schneller,

as each one is amplified and accelerated by the last.

jede wird durch die vorige verstärkt und beschleunigt.

Wenn man zurückblickt,

And if you look back,

it's clear that we are in the fastest

befinden wir uns offenbar

auf der schnellsten und folgenreichsten Welle aller Zeiten.

and most consequential wave ever.

The journeys of humanity and technology are now deeply intertwined.

Die Wege von Menschheit und Technologie sind heute eng miteinander verwoben.

In just 18 months,

In nur 18 Monaten haben über eine Milliarde Menschen

over a billion people have used large language models.

große Sprachmodelle genutzt.

We've witnessed one landmark event after another.

Wir erleben ein wegweisendes Ereignis nach dem anderen.

Just a few years ago, people said that AI would never be creative.

Noch vor ein paar Jahren meinte man, KI würde nie kreativ sein.

And yet AI now feels like an endless river of creativity,

Dennoch erscheint KI heute wie ein endloser Fluss der Kreativität,

making poetry and images and music and video that stretch the imagination.

der Poesie, Bilder, Musik und Videos erzeugt und so die Fantasie anregt.

People said it would never be empathetic.

Es hieß, KI werde nie empathisch sein.

And yet today, millions of people enjoy meaningful conversations with AIs,

Und doch führen heute Millionen Menschen sinnvolle Gespräche mit ihr

talking about their hopes and dreams

über Hoffnungen und Träume

and helping them work through difficult emotional challenges.

und zur Bewältigung von heiklen emotionalen Herausforderungen.

AIs can now drive cars,

KI kann Autos steuern,

manage energy grids

Energienetze verwalten

and even invent new molecules.

und sogar neue Moleküle erfinden.

Just a few years ago, each of these was impossible.

Noch vor ein paar Jahren war das alles unmöglich.

And all of this is turbocharged by spiraling exponentials of data

All das wird noch beschleunigt

durch exponentiell ansteigende Daten- und Berechnungsmengen.

and computation.

Last year, Inflection 2.5, our last model,

Letztes Jahr benötigte unser neuestes Modell, Inflection 2.5,

used five billion times more computation

fünf Milliarden Mal mehr Rechenleistung als die DeepMind-KI,

than the DeepMind AI that beat the old-school Atari games

die vor etwas mehr als zehn Jahren

die Atari-Spiele der alten Schule schlug.

just over 10 years ago.

That's nine orders of magnitude more computation.

Das heißt neun Größenordnungen mehr Rechenleistung.

10x per year,

10x pro Jahr,

every year for almost a decade.

jedes Jahr, seit fast einem Jahrzehnt.

Over the same time, the size of these models has grown

Im gleichen Zeitraum wuchs die Größe dieser Modelle

from first tens of millions of parameters to then billions of parameters,

von zunächst zig Millionen Parametern auf Milliarden Parameter

and very soon, tens of trillions of parameters.

und sehr bald auf Dutzende Billionen Parameter.

If someone did nothing but read 24 hours a day for their entire life,

Wenn jemand sein ganzes Leben lang 24 Stunden am Tag lesen würde,

they'd consume eight billion words.

würde er acht Milliarden Wörter lesen.

And of course, that's a lot of words.

Das ist natürlich eine Menge.

But today, the most advanced AIs consume more than eight trillion words

Aber heute nehmen die fortschrittlichsten KIs

in einem einzigen Trainingsmonat über acht Billionen Wörter auf.

in a single month of training.

And all of this is set to continue.

Und all das geht noch weiter.

The long arc of technological history is now in an extraordinary new phase.

Die lange Geschichte der Technologie

befindet sich in einer außergewöhnlichen neuen Phase.

So what does this mean in practice?

Was bedeutet das in der Praxis?

Well, just as the internet gave us the browser

So wie uns das Internet den Browser

and the smartphone gave us apps,

und das Smartphone die Apps gab,

the cloud-based supercomputer is ushering in a new era

läutet der cloudbasierte Supercomputer eine neue Ära allgegenwärtiger KIs ein.

of ubiquitous AIs.

Everything will soon be represented by a conversational interface.

Bald wird alles durch eine Konversationsschnittstelle repräsentiert.

Oder, anders ausgedrückt, durch eine persönliche KI.

Or, to put it another way, a personal AI.

And these AIs will be infinitely knowledgeable,

Diese KIs haben unendlich viel Wissen

and soon they'll be factually accurate and reliable.

und werden bald sachlich genau und zuverlässig sein.

They'll have near-perfect IQ.

Sie haben einen nahezu perfekten IQ,

They’ll also have exceptional EQ.

dazu einen außergewöhnlichen EQ.

They’ll be kind, supportive, empathetic.

Sie sind freundlich, hilfsbereit und einfühlsam.

These elements on their own would be transformational.

Allein diese Elemente wären transformativ.

Just imagine if everybody had a personalized tutor in their pocket

Stellen Sie sich vor, jeder hätte seinen eigenen Tutor in der Tasche

and access to low-cost medical advice.

und Zugang zu kostengünstiger medizinischer Beratung.

A lawyer and a doctor,

Zu Anwälten und Ärzten,

a business strategist and coach --

Unternehmensstrategen und Coaches.

all in your pocket 24 hours a day.

All das 24 Stunden pro Tag in der Tasche.

But things really start to change when they develop what I call AQ,

Aber alles wird noch ganz anders,

wenn das entwickelt wird, was ich HQ nenne:

their “actions quotient.”

den „Handlungsquotienten“ –

This is their ability to actually get stuff done

die Fähigkeit, in der digitalen und physischen Welt

in the digital and physical world.

tatsächlich etwas zu erreichen.

And before long, it won't just be people that have AIs.

Schon bald werden nicht nur Menschen über KIs verfügen.

Strange as it may sound, every organization,

Seltsamerweise wird jede Einrichung –

Kleinunternehmen, gemeinnützige Organisationen, nationale Regierungen –

from small business to nonprofit to national government,

each will have their own.

ihre eigene KI haben.

Every town, building and object

Jede Stadt, jedes Gebäude und jedes Objekt

will be represented by a unique interactive persona.

wird durch eine einzigartige interaktive Persona repräsentiert.

And these won't just be mechanistic assistants.

Das sind nicht nur mechanische Assistenten,

They'll be companions, confidants,

sondern Weggefährten, Vertraute,

colleagues, friends and partners,

Kollegen, Freunde und Partner,

as varied and unique as we all are.

so vielfältig und einzigartig wie wir alle.

An diesem Punkt können KIs den Menschen

At this point, AIs will convincingly imitate humans at most tasks.

bei den meisten Aufgaben überzeugend nachahmen.

And we'll feel this at the most intimate of scales.

Wir werden das auf der intimsten Ebene spüren.

An AI organizing a community get-together for an elderly neighbor.

Eine KI organisiert ein Treffen für einen älteren Nachbarn.

A sympathetic expert helping you make sense of a difficult diagnosis.

Ein mitfühlender Experte erklärt eine schwierige Diagnose.

But we'll also feel it at the largest scales.

Aber wir spüren es auch in den höchsten Dimensionen.

Accelerating scientific discovery,

Schnellere wissenschaftliche Erkenntnisse,

autonomous cars on the roads,

autonome Autos auf den Straßen,

drones in the skies.

Drohnen am Himmel.

They'll both order the takeout and run the power station.

Sie werden Essen zum Mitnehmen bestellen und Kraftwerke betreiben.

They’ll interact with us and, of course, with each other.

Sie werden mit uns interagieren und natürlich auch miteinander.

They'll speak every language,

Sie werden alle Sprachen sprechen,

take in every pattern of sensor data,

jedes Muster an Sensordaten,

Anblicke, Geräusche

sights, sounds,

streams and streams of information,

und gewaltige Informationsströme aufnehmen,

far surpassing what any one of us could consume in a thousand lifetimes.

weit mehr als das, was jeder von uns in tausend Leben aufnehmen könnte.

So what is this?

Was ist das also?

What are these AIs?

Was sind diese KIs?

If we are to prioritize safety above all else,

Wenn wir Sicherheit über alles andere stellen wollen,

um zu garantieren, dass diese neue Welle immer der Menschheit dient,

to ensure that this new wave always serves and amplifies humanity,

then we need to find the right metaphors for what this might become.

dann müssen wir die richtigen Metaphern dafür finden, was daraus werden könnte.

For years, we in the AI community, and I specifically,

Seit Jahren tendieren wir und speziell ich in der KI-Community dazu,

have had a tendency to refer to this as just tools.

sie nur als Werkzeuge zu bezeichnen.

Aber das trifft nicht wirklich, was hier passiert.

But that doesn't really capture what's actually happening here.

AIs are clearly more dynamic,

KIs sind eindeutig dynamischer,

more ambiguous, more integrated

mehrdeutiger, integrierter

and more emergent than mere tools,

und aufstrebender als bloße Werkzeuge,

which are entirely subject to human control.

die völlig der menschlichen Kontrolle unterliegen.

So to contain this wave,

Um diese Welle zu kontrollieren,

menschliche Handlungsfähigkeit in den Mittelpunkt zu stellen

to put human agency at its center

und die unvermeidlichen unbeabsichtigten Folgen abzumildern,

and to mitigate the inevitable unintended consequences

that are likely to arise,

die sich wahrscheinlich ergeben,

we should start to think about them as we might a new kind of digital species.

sollten wir sie als eine Art neue, digitale Spezies behandeln.

Now it's just an analogy,

Das ist nur eine Analogie,

it's not a literal description, and it's not perfect.

es ist keine wörtliche Beschreibung und nicht perfekt.

Zunächst einmal sind KIs nicht biologisch im herkömmlichen Sinne,

For a start, they clearly aren't biological in any traditional sense,

but just pause for a moment

aber halten Sie einfach kurz inne

and really think about what they already do.

und überlegen, was sie bereits können.

They communicate in our languages.

Sie kommunizieren in unseren Sprachen.

Sie sehen, was wir sehen.

They see what we see.

They consume unimaginably large amounts of information.

Sie konsumieren unvorstellbare Mengen an Informationen.

They have memory.

Sie haben ein Gedächtnis.

They have personality.

Sie haben eine Persönlichkeit.

They have creativity.

Sie sind kreativ.

Sie können sogar bis zu einem gewissen Grad denken

They can even reason to some extent and formulate rudimentary plans.

und rudimentäre Pläne schmieden.

They can act autonomously if we allow them.

Sie können autonom handeln, wenn wir sie lassen.

And they do all this at levels of sophistication

All das tun sie mit einer Raffinesse,

that is far beyond anything that we've ever known from a mere tool.

die weit über alles hinausgeht, was wir von Werkzeugen kennen.

And so saying AI is mainly about the math or the code

Zu sagen, KI sei hauptsächlich Mathematik oder Code,

ist, als würde man sagen,

is like saying we humans are mainly about carbon and water.

dass wir Menschen hauptsächlich Kohlenstoff und Wasser sind.

It's true, but it completely misses the point.

Es stimmt, geht aber völlig am Kern vorbei.

And yes, I get it, this is a super arresting thought

Das ist ein äußerst fesselnder Gedanke,

but I honestly think this frame helps sharpen our focus on the critical issues.

aber ich glaube, dieser Rahmen trägt dazu bei,

unseren Blick für die entscheidenden Themen zu schärfen.

What are the risks?

Was sind die Risiken?

What are the boundaries that we need to impose?

Welche Grenzen müssen wir ziehen?

What kind of AI do we want to build or allow to be built?

Welche Art von KI wollen wir bauen oder zulassen?

This is a story that's still unfolding.

Das alles steckt noch in der Entwicklung.

Nothing should be accepted as a given.

Nichts sollte als gegeben akzeptiert werden.

We all must choose what we create.

Wir alle müssen wählen, was wir erschaffen.

What AIs we bring into the world, or not.

Welche KIs wir in die Welt bringen oder eben nicht.

These are the questions for all of us here today,

Das sind Fragen, die uns alle heute hier betreffen.

and all of us alive at this moment.

Und alle Menschen, die gerade leben.

For me, the benefits of this technology are stunningly obvious,

Für mich liegen die Vorteile dieser Technologie auf der Hand

and they inspire my life's work every single day.

und sie inspirieren mein Lebenswerk jeden Tag aufs Neue.

But quite frankly, they'll speak for themselves.

Aber sie werden sicher für sich selbst sprechen.

Over the years, I've never shied away from highlighting risks

Ich habe mich nie gescheut, Risiken hervorzuheben

and talking about downsides.

und über Nachteile zu sprechen.

Diese Denkweise hilft,

Thinking in this way helps us focus on the huge challenges

uns auf die großen Herausforderungen zu konzentrieren.

that lie ahead for all of us.

But let's be clear.

Klar ist aber:

There is no path to progress

Es gibt keinen Weg zum Fortschritt

where we leave technology behind.

ohne Technologie.

The prize for all of civilization is immense.

Der Gewinn für die gesamte Zivilisation ist immens.

Wir brauchen Lösungen im Gesundheits- und Bildungswesen, für die Klimakrise.

We need solutions in health care and education, to our climate crisis.

And if AI delivers just a fraction of its potential,

Wenn KI nur einen Bruchteil ihres Potenzials ausschöpft,

the next decade is going to be the most productive in human history.

wird das nächste Jahrzehnt

das produktivste in der Menschheitsgeschichte.

Here's another way to think about it.

Oder, anders betrachtet:

In the past,

Früher war die Förderung des Wirtschaftswachstums

unlocking economic growth often came with huge downsides.

oft mit enormen Nachteilen verbunden.

The economy expanded as people discovered new continents

Die Wirtschaft expandierte mit der Entdeckung neuer Kontinente

and opened up new frontiers.

und öffnete neue Grenzen.

But they colonized populations at the same time.

Aber gleichzeitig wurden Völker kolonialisiert.

We built factories,

Wir bauten Fabriken,

but they were grim and dangerous places to work.

aber es waren düstere und gefährliche Arbeitsorte.

Wir stießen auf Öl,

We struck oil,

but we polluted the planet.

aber wir verschmutzten den Planeten.

Now because we are still designing and building AI,

Jetzt, da wir KI entwerfen und entwickeln,

we have the potential and opportunity to do it better,

haben wir die Gelegenheit, es besser zu machen,

radically better.

wesentlich besser.

And today, we're not discovering a new continent

Heute entdecken wir keinen neuen Kontinent

and plundering its resources.

und plündern seine Ressourcen.

We're building one from scratch.

Wir bauen einen von Grund auf neuen.

Sometimes people say that data or chips are the 21st century’s new oil,

Manche sagen, dass Daten oder Chips das Erdöl des 21. Jahrhunderts sind,

but that's totally the wrong image.

aber das ist ein völlig falsches Bild.

AI is to the mind

KI ist für den Verstand,

what nuclear fusion is to energy.

was Kernfusion für Energie ist:

Limitless, abundant,

Grenzenlos, reichlich vorhanden,

world-changing.

weltverändernd.

And AI really is different,

KI ist wirklich anders.

and that means we have to think about it creatively and honestly.

Das bedeutet, dass wir kreativ und ehrlich darüber nachdenken müssen.

We have to push our analogies and our metaphors

Wir müssen unsere Analogien und Metaphern bis an die Grenzen treiben,

to the very limits

um mit dem, was kommt, umgehen zu können.

to be able to grapple with what's coming.

Because this is not just another invention.

Denn es ist nicht einfach eine weitere Erfindung.

AI is itself an infinite inventor.

KI selbst ist ein undendlicher Erfinder.

And yes, this is exciting and promising and concerning

Das ist aufregend, vielversprechend, besorgniserregend

and intriguing all at once.

und faszinierend zugleich.

Ehrlich gesagt, es ist ziemlich surreal.

To be quite honest, it's pretty surreal.

But step back,

Aber wenn man einen Schritt zurücktritt

see it on the long view of glacial time,

und das Ganze langfristig seit der Eiszeit betrachtet,

and these really are the very most appropriate metaphors that we have today.

sind das wirklich die treffendsten Metaphern, die wir haben.

Since the beginning of life on Earth,

Seit Beginn des Lebens auf der Erde

we've been evolving, changing

haben wir uns weiterentwickelt, verändert

and then creating everything around us in our human world today.

und alles geschaffen, was uns in der heutigen Welt umgibt.

And AI isn't something outside of this story.

KI findet nicht außerhalb dieser Geschichte statt.

In fact, it's the very opposite.

Ganz im Gegenteil.

It's the whole of everything that we have created,

Sie ist die Gesamtheit von allem, was wir geschaffen haben,

distilled down into something that we can all interact with

zusammengefasst zu etwas, womit wir alle interagieren

and benefit from.

und wovon wir profitieren können.

It's a reflection of humanity across time,

Es ist ein Spiegelbild der Menschheit im Laufe der Zeit.

and in this sense,

So gesehen ist es gar keine neue Spezies.

it isn't a new species at all.

This is where the metaphors end.

Hier enden die Metaphern.

Here's what I'll tell Caspian next time he asks.

Wenn Caspian mich das nächste Mal fragt, sage ich:

KI existiert nicht separat.

AI isn't separate.

AI isn't even in some senses, new.

KI ist in gewisser Weise nicht einmal neu.

AI is us.

KI sind wir.

It's all of us.

Wir alle.

Das ist vielleicht das Vielversprechendste und Wichtigste überhaupt,

And this is perhaps the most promising and vital thing of all

that even a six-year-old can get a sense for.

wofür selbst ein Sechsjähriger ein Gefühl bekommen kann.

As we build out AI,

Bei der Entwicklung der KI

we can and must reflect all that is good,

können und müssen wir all das spiegeln, was gut ist,

all that we love,

alles, was wir lieben,

all that is special about humanity:

alles, was besonders an der Menschheit ist:

our empathy, our kindness,

Einfühlungsvermögen, Freundlichkeit,

our curiosity and our creativity.

Neugier und Kreativität.

This, I would argue, is the greatest challenge of the 21st century,

Ich glaube,

das ist die größte Herausforderung des 21. Jahrhunderts,

but also the most wonderful,

aber auch die wunderbarste,

inspiring and hopeful opportunity for all of us.

inspirierendste und hoffnungsvollste Chance für uns alle.

Thank you.

Danke.

(Applause)

(Applaus)

Chris Anderson: Thank you Mustafa.

Chris Anderson: Danke, Mustafa.

It's an amazing vision and a super powerful metaphor.

Es ist eine unglaubliche Vision und eine superstarke Metapher.

Du bist gerade in einer tollen Position.

You're in an amazing position right now.

I mean, you were connected at the hip

Du warst von Anfang an in die Arbeit involviert,

to the amazing work happening at OpenAI.

die bei OpenAI passiert.

You’re going to have resources made available,

Dir werden Ressourcen zur Verfügung gestellt,

there are reports of these giant new data centers,

es gibt Berichte über diese riesigen neuen Rechenzentren,

100 billion dollars invested and so forth.

100 Milliarden Dollar Investitionen und so weiter.

Daraus kann eine neue Spezies hervorgehen.

And a new species can emerge from it.

I mean, in your book,

In deinem Buch zeichnest du nicht nur eine unglaublich optimistische Vision,

you did, as well as painting an incredible optimistic vision,

you were super eloquent on the dangers of AI.

sondern sprichst auch sehr eloquent über die Gefahren der KI.

And I'm just curious, from the view that you have now,

Und ich frage mich, aus deiner jetzigen Sicht:

what is it that most keeps you up at night?

Was hält dich nachts vor allem wach?

Mustafa Suleyman: I think the great risk is that we get stuck

Mustafa Suleyman: Das große Risiko

in what I call the pessimism aversion trap.

ist die Pessimismus-Abneigungsfalle.

You know, we have to have the courage to confront

Wir müssen den Mut haben, uns potenziell düsteren Szenarien zu stellen,

the potential of dark scenarios

in order to get the most out of all the benefits that we see.

um das Beste aus all den Vorteilen herauszuholen.

So the good news is that if you look at the last two or three years,

Zum Glück hat es in den letzten zwei, drei Jahren

there have been very, very few downsides, right?

sehr wenige Nachteile gegeben, oder?

It’s very hard to say explicitly what harm an LLM has caused.

Es ist sehr schwer, explizit zu sagen, welchen Schaden ein LLM angerichtet hat.

Das heißt aber nicht, dass das in den nächsten zehn Jahren so bleibt.

But that doesn’t mean that that’s what the trajectory is going to be

over the next 10 years.

So I think if you pay attention to a few specific capabilities,

Ich denke also, man sollte auf einige spezifische Fähigkeiten achten,

take for example, autonomy.

etwa Autonomie.

Autonomie ist offenbar eine Schwelle,

Autonomy is very obviously a threshold

die zu überschreiten das Risiko für die Gesellschaft erhöht.

over which we increase risk in our society.

And it's something that we should step towards very, very closely.

Da sollten wir ganz genau hinschauen.

The other would be something like recursive self-improvement.

Das andere wäre so etwas wie rekursive Selbstverbesserung.

If you allow the model to independently self-improve,

Würde man dem Modell erlauben, sich selbstständig zu verbessern,

update its own code,

seinen Code zu aktualisieren,

explore an environment without oversight, and, you know,

eine Umgebung ohne Aufsicht zu erkunden –

ohne Kontrolle eines Menschen, der einen Kurswechsel vornimmt –,

without a human in control to change how it operates,

that would obviously be more dangerous.

wäre das natürlich gefährlicher.

But I think that we're still some way away from that.

Aber davon sind wir wohl noch weit entfernt.

Das dauert noch fünf bis zehn Jahre.

I think it's still a good five to 10 years before we have to really confront that.

Doch wir sollten jetzt schon darüber sprechen.

But it's time to start talking about it now.

CA: Eine digitale Spezies kann sich im Gegensatz zu jeder biologischen

CA: A digital species, unlike any biological species,

can replicate not in nine months,

nicht in neun Monaten,

but in nine nanoseconds,

sondern in Nanosekunden replizieren

and produce an indefinite number of copies of itself,

und eine unbestimmte Anzahl Kopien ihrer selbst produzieren,

all of which have more power than we have in many ways.

die in vielerlei Hinsicht mehr Macht hat als wir.

I mean, the possibility for unintended consequences seems pretty immense.

Die Möglichkeit unbeabsichtigter Folgen scheint ziemlich groß.

And isn't it true that if a problem happens,

Ist es wahr, dass ein Problem

it could happen in an hour?

in einer Stunde auftreten kann?

MS: No.

MS: Nein.

That is really not true.

Das stimmt wirklich nicht.

I think there's no evidence to suggest that.

Ich denke, es gibt dafür keine Beweise.

And I think that, you know,

Es wird oft als „Intelligenzexplosion“ bezeichnet.

that’s often referred to as the “intelligence explosion.”

Ich denke, es ist ein theoretisches, hypothetisches “Vielleicht”,

And I think it is a theoretical, hypothetical maybe

das wir alle gern erforschen würden,

that we're all kind of curious to explore,

aber es gibt keine Beweise, dass wir auch nur annähernd so weit sind.

but there's no evidence that we're anywhere near anything like that.

And I think it's very important that we choose our words super carefully.

Wir müssen unsere Worte sehr sorgfältig wählen.

Du hast Recht, das ist eine Schwäche der Spezies-Bezeichnung,

Because you're right, that's one of the weaknesses of the species framing,

that we will design the capability for self-replication into it

dass wir die Fähigkeit zur Selbstreplikation hineinkonstruieren,

wenn Menschen sich dafür entscheiden.

if people choose to do that.

And I would actually argue that we should not,

Wir sollten das wohl nicht tun.

Das wäre eine gefährliche Fähigkeit,

that would be one of the dangerous capabilities

von der wir Abstand nehmen sollten.

that we should step back from, right?

Es besteht also keine Gefahr, dass das versehentlich „auftaucht“.

So there's no chance that this will "emerge" accidentally.

I really think that's a very low probability.

Ich denke, das ist wirklich sehr unwahrscheinlich.

It will happen if engineers deliberately design those capabilities in.

Es wird passieren, wenn Ingenieure diese Funktionen bewusst einbauen.

And if they don't take enough efforts to deliberately design them out.

Wenn sie sich nicht genug Mühe geben, sie bewusst auszuschließen.

And so this is the point of being explicit

Genau darum geht es:

and transparent about trying to introduce safety by design very early on.

explizit und transparent zu versuchen, schon früh „safety by design“ einzuführen.

CA: Thank you, your vision of humanity injecting into this new thing

CA: Danke. Deine Vision, dass wir Menschen in diese neue Sache

die besten Teile von uns selbst einbringen

the best parts of ourselves,

avoiding all those weird, biological, freaky,

und all diese seltsamen, biologischen, verrückten,

horrible tendencies that we can have in certain circumstances,

schrecklichen Tendenzen vermeiden, die wir bisweilen haben –

I mean, that is a very inspiring vision.

das ist eine sehr inspirierende Vision.

And thank you so much for coming here and sharing it at TED.

Vielen Dank, dass du das hier bei TED vorgestellt hast.

Thank you, good luck.

Danke, viel Glück.

(Applause)

(Applaus)