How to Get Inside the "Brain" of AI | Alona Fyshe | TED

Lektorat: Sonja Maria Neef

People are funny.

Menschen sind lustig.

We're constantly trying to understand and interpret

Wir versuchen ständig, die Welt um uns herum zu verstehen

the world around us.

und zu interpretieren.

Ich lebe in einem Haus mit zwei schwarzen Katzen und wirklich,

I live in a house with two black cats, and let me tell you,

every time I see a black, bunched up sweater out of the corner of my eye,

immer, wenn ich einen schwarzen, zusammengeballten Pullover sehe,

I think it's a cat.

denke ich, es sei eine Katze.

It's not just the things we see.

Es sind nicht nur Dinge, die wir sehen.

Sometimes we attribute more intelligence than might actually be there.

Manchmal schreiben wir mehr Intelligenz zu, als eigentlich vorhanden sein könnte.

Maybe you've seen the dogs on TikTok.

Vielleicht haben Sie die Hunde auf TikTok gesehen.

They have these little buttons that say things like "walk" or "treat."

Sie haben Tasten, auf denen „Gassi“ oder „Belohnung“ stehen.

Sie können sie drücken, um mit ihren Besitzern zu kommunizieren

They can push them to communicate some things with their owners,

und ihre Besitzer glauben, dass sie sie verwenden,

and their owners think they use them

to communicate some pretty impressive things.

um beeindruckende Dinge zu kommunizieren.

But do the dogs know what they're saying?

Doch wissen die Hunde was sie sagen?

Or perhaps you've heard the story of Clever Hans the horse,

Vielleicht haben Sie die Geschichte vom klugen Hans, dem Pferd, gehört.

and he could do math.

Er konnte rechnen.

And not just like, simple math problems, really complicated ones,

Nicht nur einfache Matheaufgaben, sondern wirklich komplizierte, wie:

like, if the eighth day of the month falls on a Tuesday,

Wenn der achte Tag des Monats auf einen Dienstag fällt,

what's the date of the following Friday?

welches Datum ist dann am darauffolgenden Freitag?

It's like, pretty impressive for a horse.

Ziemlich beeindruckend für ein Pferd.

Unfortunately, Hans wasn't doing math,

Leider hat Hans nicht gerechnet,

but what he was doing was equally impressive.

aber was er tat, war genauso beeindruckend.

Hans had learned to watch the people in the room

Hans hatte gelernt, die Leute im Raum zu beobachten,

to tell when he should tap his hoof.

um zu erkennen, wann er mit dem Huf klopfen sollte.

So he communicated his answers by tapping his hoof.

Also teilte er seine Antworten mit, indem er mit dem Huf tippte.

It turns out that if you know the answer

Wenn Sie also die Antwort kennen,

to "if the eighth day of the month falls on a Tuesday,

auf: “Wenn der achte Tag des Monats auf einen Dienstag fällt,

what's the date of the following Friday,"

welches Datum ist der darauffolgende Freitag?“,

you will subconsciously change your posture

ändern Sie unbewusst Ihre Haltung,

once the horse has given the correct 18 taps.

sobald das Pferd die richtigen 18 Schläge gegeben hat.

So Hans couldn't do math,

Hans konnte also nicht rechnen,

but he had learned to watch the people in the room who could do math,

er hatte gelernt, die Leute im Raum zu beobachten, die rechnen konnten,

which, I mean, still pretty impressive for a horse.

was für ein Pferd immer noch ziemlich beeindruckend ist.

But this is an old picture,

Aber das ist ein altes Bild,

and we would not fall for Clever Hans today.

und wir würden heute nicht auf Clever Hans reinfallen.

Or would we?

Oder doch?

Well, I work in AI,

Nun, ich arbeite in der KI,

and let me tell you, things are wild.

und ich kann Ihnen sagen, die Dinge sind verrückt.

There have been multiple examples of people being completely convinced

Es gab mehrere Beispiele dafür, dass Menschen davon überzeugt waren,

that AI understands them.

dass KI sie versteht.

In 2022,

Im Jahr 2022

dachte ein Google-Ingenieur, dass Googles KI empfindungsfähig sei.

a Google engineer thought that Google’s AI was sentient.

And you may have had a really human-like conversation

Vielleicht haben Sie ein wirklich menschliches Gespräch

with something like ChatGPT.

mit etwas wie ChatGPT geführt.

But models we're training today are so much better

Doch die Modelle, die wir heute trainieren, sind viel besser

than the models we had even five years ago.

als die Modelle, die wir vor fünf Jahren hatten.

It really is remarkable.

Es ist wirklich bemerkenswert.

So at this super crazy moment in time,

Lassen Sie uns also in diesem superverrückten Moment

let’s ask the super crazy question:

die superverrückte Frage stellen:

Does AI understand us,

Versteht uns die KI

or are we having our own Clever Hans moment?

oder erleben wir unseren eigenen Clever Hans-Moment?

Manche Philosophen glauben, dass Computer Sprache niemals verstehen werden.

Some philosophers think that computers will never understand language.

To illustrate this, they developed something they call

Um dies zu veranschaulichen, entwickelten sie etwas, das sie

the Chinese room argument.

das chinesische Raum-Argument nennen.

In the Chinese room, there is a person, hypothetical person,

Im chinesischen Raum gibt es eine hypothetische Person,

who does not understand Chinese,

die kein Chinesisch versteht,

but he has along with him a set of instructions

aber sie hat eine Reihe von Anweisungen bei sich,

that tell him how to respond in Chinese to any Chinese sentence.

die ihm sagen, wie er auf Chinesisch auf jeden chinesischen Satz reagieren soll.

Here's how the Chinese room works.

So funktioniert das chinesische Zimmer:

A piece of paper comes in through a slot in the door,

Ein Zettel kommt durch einen Schlitz in der Tür herein,

has something written in Chinese on it.

auf dem etwas auf Chinesisch geschrieben steht.

The person uses their instructions to figure out how to respond.

Die Person nutzt die Anweisungen, um herauszufinden, wie sie reagieren soll,

They write the response down on a piece of paper

schreibt die Antwort auf ein Blatt Papier

and then send it back out through the door.

und schickt sie durch die Tür zurück.

To somebody who speaks Chinese,

Für jemanden, der Chinesisch spricht

standing outside this room,

und vor diesem Raum steht,

it might seem like the person inside the room speaks Chinese.

mag es so aussehen, als ob die Person im Raum Chinesisch spricht.

But we know they do not,

Wir wissen jedoch, dass dies nicht der Fall ist,

because no knowledge of Chinese is required to follow the instructions.

da keine Chinesischkenntnisse erforderlich sind,

um den Anweisungen zu folgen.

Performance on this task does not show that you know Chinese.

Die Durchführung dieser Aufgabe zeigt nicht, dass Sie Chinesisch sprechen.

So what does that tell us about AI?

Was sagt uns das über KI?

Well, when you and I stand outside of the room,

Nun, wenn Sie und ich außerhalb des Raums stehen,

when we speak to one of these AIs like ChatGPT,

wenn wir mit einer dieser KIs wie ChatGPT sprechen,

we are the person standing outside the room.

sind wir die Person, die außerhalb des Raums steht.

We're feeding in English sentences,

Wir geben englische Sätze ein,

we're getting English sentences back.

wir bekommen englische Sätze zurück.

It really looks like the models understand us.

Es sieht wirklich so aus, als würden uns die Models verstehen.

It really looks like they know English.

Es sieht wirklich so aus, als ob sie Englisch sprechen.

But under the hood,

Doch in Wahrheit

these models are just following a set of instructions, albeit complex.

folgen diese Modelle nur einer Reihe von Anweisungen, wenn auch komplexe.

How do we know if AI understands us?

Woher wissen wir, ob KI uns versteht?

To answer that question, let's go back to the Chinese room again.

Um diese Frage zu beantworten,

gehen wir zurück in das chinesische Zimmer.

Let's say we have two Chinese rooms.

Sagen wir, wir haben zwei chinesische Zimmer.

In one Chinese room is somebody who actually speaks Chinese,

In dem einen ist jemand, der tatsächlich Chinesisch spricht,

und in dem anderen Raum ist unser Betrüger.

and in the other room is our impostor.

Bekommt die Person, die tatsächlich Chinesisch spricht, ein Blatt Papier

When the person who actually speaks Chinese gets a piece of paper

that says something in Chinese in it, they can read it, no problem.

auf dem etwas auf Chinesisch steht, kann sie es lesen, kein Problem.

But when our imposter gets it again,

Aber bekommt unser Betrüger es wieder,

he has to use his set of instructions to figure out how to respond.

muss er anhand der Anweisungen herausfinden, wie er reagieren soll.

From the outside, it might be impossible to distinguish these two rooms,

Von außen mag es unmöglich sein, diese beiden Räume zu unterscheiden,

but we know inside something really different is happening.

aber wir wissen, dass drinnen etwas ganz anderes passiert.

To illustrate that,

Um das zu veranschaulichen,

let's say inside the minds of our two people,

nehmen wir an, in den Köpfen unserer beiden Leute,

inside of our two rooms,

in unseren beiden Räumen,

is a little scratch pad.

befindet sich ein kleiner Notizblock.

And everything they have to remember in order to do this task

Alles, was sie sich merken müssen, um die Aufgabe zu erledigen,

has to be written on that little scratch pad.

muss auf den Notizblock geschrieben werden.

If we could see what was written on that scratch pad,

Könnten wir sehen, was auf dem Notizblock geschrieben steht,

we would be able to tell how different their approach to the task is.

würden wir bemerken, wie unterschiedlich sie an die Aufgabe herangehen.

So though the input and the output of these two rooms

Obwohl die Eingabe und die Ausgabe dieser beiden Räume

might be exactly the same,

genau dieselbe ist,

the process of getting from input to output -- completely different.

ist der Prozess, von der Eingabe zur Ausgabe zu gelangen, völlig anders.

So again, what does that tell us about AI?

Was sagt uns das über KI?

Again, if AI, even if it generates completely plausible dialogue,

Auch hier gilt: Wenn KI, selbst wenn sie einen völlig plausiblen Dialog generiert,

answers questions just like we would expect,

Fragen so beantwortet, wie wir es erwarten,

it may still be an imposter of sorts.

kann sie immernoch eine Art Betrüger sein.

If we want to know if AI understands language like we do,

Wenn wir wissen wollen, ob KI Sprache so versteht wie wir,

we need to know what it's doing.

müssen wir wissen, was sie tut.

We need to get inside to see what it's doing.

Wir müssen reingehen, um zu sehen, was sie tut.

Is it an imposter or not?

Ist es ein Betrüger oder nicht?

We need to see its scratch pad,

Wir müssen sein Notizblock sehen

and we need to be able to compare it

und in der Lage sein, es mit dem Notizblock

to the scratch pad of somebody who actually understands language.

von jemandem zu vergleichen, der Sprache tatsächlich versteht.

But like scratch pads in brains,

Aber Notitzblöcke im Gehirn können wir

that's not something we can actually see, right?

nicht wirklich sehen, oder?

Well, it turns out that we can kind of see scratch pads in brains.

Ja, wir können Notizblöcke in Gehirnen sehen.

Using something like fMRI or EEG,

Mit etwas wie fMRT oder EEG

we can take what are like little snapshots of the brain while it’s reading.

können wir Schnappschüsse des Gehirns machen, während es liest.

So have people read words or stories and then take pictures of their brain.

Leute lesen also Wörter oder Geschichten

und wir machen Fotos von ihrem Gehirn.

And those brain images are like fuzzy,

Diese Gehirnbilder sind verschwommene,

out-of-focus pictures of the scratch pad of the brain.

unscharfe Bilder vom Notizblock des Gehirns.

They tell us a little bit about how the brain is processing

Sie zeigen uns ein wenig, wie das Gehirn Informationen verarbeitet

and representing information while you read.

und darstellt, beim Lesen.

Hier sind drei Gehirnbilder, aufgenommen, während eine Person

So here are three brain images taken while a person read the word "apartment,"

die Wörter „Wohnung“, „Haus“ und „Sellerie“ las.

"house" and "celery."

You can see just with your naked eye

Sie können mit bloßem Auge sehen,

that the brain image for "apartment" and "house"

dass das Gehirnbild für „Wohnung“ und „Haus“

are more similar to each other

einander ähnlicher ist

than they are to the brain image for "celery."

als das Gehirnbild für „Sellerie“.

And you know, of course that apartments and houses are more similar

Sie wissen natürlich, dass Wohnungen und Häuser

than they are to celery, just the words.

sich mehr ähneln als Sellerie, allein die Worte.

So said another way,

Anders ausgedrückt:

the brain uses its scratchpad when reading the words "apartment" and "house"

Das Gehirn verwendet seinen Notizblock, beim Lesen der Wörter „Wohnung“ und „Haus“

in a way that's more similar than when you read the word "celery."

auf eine Weise, die ähnlicher ist als wenn Sie das Wort „Sellerie“ lesen.

The scratch pad tells us a little bit

Der Notizblock zeigt uns ein wenig,

about how the brain represents the language.

wie das Gehirn die Sprache darstellt.

It's not a perfect picture of what the brain's doing,

Es ist kein perfektes Bild dessen, was das Gehirn tut,

but it's good enough.

aber es ist gut genug.

OK, so we have scratch pads for the brain.

Wir haben also Notizblöcke für das Gehirn.

Now we need a scratch pad for AI.

Jetzt brauchen wir ein Notizblock für KI.

So inside a lot of AIs is a neural network.

In vielen KIs befindet sich ein neuronales Netzwerk.

And inside of a neural network is a bunch of these little neurons.

In einem neuronalen Netzwerk befindet sich ein Haufen kleiner Neuronen.

So here the neurons are like these little gray circles.

Hier sind die Neuronen diese kleinen grauen Kreise.

And we would like to know

Wir wüssten gerne

was der Notizblock eines neuronalen Netzwerks ist.

what is the scratch pad of a neural network?

Well, when we feed in a word into a neural network,

Wenn wir ein Wort in ein neuronales Netzwerk eingeben,

each of the little neurons computes a number.

berechnet jedes der kleinen Neuronen eine Zahl,

Those little numbers I'm representing here with colors.

die ich hier mit Farben darstelle.

So every neuron computes this little number,

Jedes Neuron berechnet also diese Zahl,

and those numbers tell us something

und die Zahlen sagen uns etwas darüber,

about how the neural network is processing language.

wie das neuronale Netzwerk Sprache verarbeitet.

Taken together,

Zusammengenommen zeichnen uns

all of those little circles paint us a picture

all diese Kreise ein Bild davon,

of how the neural network is representing language,

wie das neuronale Netzwerk Sprache darstellt,

and they give us the scratch pad of the neural network.

und zeigen uns den Notizblock des neuronalen Netzwerks.

OK, great.

Wunderbar.

Now we have two scratch pads, one from the brain and one from AI.

Jetzt haben wir zwei Notizblöcke, eines aus dem Gehirn und eines aus der KI.

And we want to know: Is AI doing something like what the brain is doing?

Wir wollen wissen: Macht KI so etwas wie das Gehirn?

How can we test that?

Wie können wir das testen?

Here's what researchers have come up with.

Folgendes haben sich Forscher ausgedacht.

We're going to train a new model.

Wir trainieren ein neues Modell.

That new model is going to look at neural network scratch pad

Das neue Modell sieht sich die Notizen neuronaler Netzwerke

for a particular word

für ein bestimmtes Wort an

and try to predict the brain scratch pad for the same word.

und versucht, die Notizen im Gehirn für dasselbe Wort vorherzusagen.

We can do it, by the way, around two.

Wir können es übrigens für zwei machen.

So let's train a new model.

Also trainieren wir ein neues Modell.

It’s going to look at the neural network scratch pad for a particular word

Es sucht auf dem Notizblock des neuronalen Netzwerks nach einem Wort

and try to predict the brain scratchpad.

und versucht, die Notiz des Gehirns vorherzusagen.

If the brain and AI are doing nothing alike,

Wenn das Gehirn und die KI nichts gleich machen,

have nothing in common,

nichts gemeinsam haben,

we won't be able to do this prediction task.

können wir die Vorhersageaufgabe nicht bewältigen.

It won't be possible to predict one from the other.

Wir können nicht das eine vom anderen vorhrsagen.

So we've reached a fork in the road

Wir sind an einer Weggabelung angelangt

and you can probably tell I'm about to tell you one of two things.

und Sie wissen vermutlich,

dass ich Ihnen eins von zwei Dingen sagen werde.

I’m going to tell you AI is amazing,

Ich sage, dass KI fantastisch ist,

or I'm going to tell you AI is an imposter.

oder ich sage, dass KI ein Betrug ist.

Forscher wie ich erinnern Sie gerne daran,

Researchers like me love to remind you

that AI is nothing like the brain.

dass KI nichts mit dem Gehirn zu tun hat.

And that is true.

Und das stimmt.

But could it also be the AI and the brain share something in common?

Aber könnte es sein, dass die KI und das Gehirn etwas gemeinsam haben?

Wir haben diese Aufgabe zur Vorhersage von Notizen gemacht

So we’ve done this scratch pad prediction task,

and it turns out, 75 percent of the time

und in 75 Prozent

ist der vorhergesagte neuronale Netzwerk-Notizblock,

the predicted neural network scratchpad for a particular word

für ein bestimmtes Wort,

is more similar to the true neural network scratchpad for that word

dem echten neuronalen Netzwerk-Notitzblock für dieses Wort ähnlicher

than it is to the neural network scratch pad

als dem neuronalen Netzwerk-Notizblock

for some other randomly chosen word --

für ein anderes zufällig ausgewähltes Wort —

75 percent is much better than chance.

75 Prozent sind viel besser als Zufall.

What about for more complicated things,

Was ist mit komplizierteren Dingen,

not just words, but sentences, even stories?

nicht nur Wörter, sondern Sätze oder Geschichten?

Again, this scratch pad prediction task works.

Auch diese Vorhersage funktioniert.

We’re able to predict the neural network scratch pad from the brain and vice versa.

Wir können Notizen im neuronalen Netzwerk

vom Gehirn aus vorhersagen und umgekehrt.

Amazing.

Unglaublich.

So does that mean

Bedeutet das also,

that neural networks and AI understand language just like we do?

dass neuronale Netzwerke und KI Sprache genauso verstehen wie wir?

Well, truthfully, no.

Ehrlich gesagt, nein.

Though these scratch pad prediction tasks show above-chance accuracy,

Obwohl die Notizblock-Vorhersageaufgaben eine Genauigkeit aufweisen,

die über der Wahrscheinlichkeit liegt,

the underlying correlations are still pretty weak.

sind die zugrunde liegenden Korrelationen immer noch schwach.

And though neural networks are inspired by the brain,

Obwohl neuronale Netzwerke vom Gehirn inspiriert sind,

they don't have the same kind of structure and complexity

haben sie nicht die gleiche Struktur und Komplexität,

that we see in the brain.

die wir im Gehirn sehen.

Neural networks also don't exist in the world.

Neuronale Netzwerke gibt es auch nicht auf der Welt.

A neural network has never opened a door

Ein neuronales Netzwerk hat noch nie eine Tür geöffnet,

or seen a sunset, heard a baby cry.

einen Sonnenuntergang gesehen oder ein Baby weinen gehört.

Can a neural network that doesn't actually exist in the world,

Kann ein neuronales Netzwerk, das auf der Welt nicht existiert

hasn't really experienced the world,

die Welt nicht wirklich erlebt hat,

really understand language about the world?

Sprache über die Welt verstehen?

Trotzdem haben sich Experimente zur Vorhersage von Notizblöcken gehalten —

Still, these scratch pad prediction experiments have held up --

mehrere Experimente zur Bildgebung des Gehirns,

multiple brain imaging experiments,

multiple neural networks.

mehrere neuronale Netzwerke.

We've also found that as the neural networks get more accurate,

Wir fanden heraus, dass die neuronalen Netzwerke,

they also start to use their scratch pad in a way

je genauer sie werden, auch anfangen, ihr Notizblock so zu verwenden,

that becomes more brain-like.

dass es hirnähnlicher wird.

And it's not just language.

Es ist nicht nur Sprache.

We've seen similar results in navigation and vision.

Wir haben ähnliche Ergebnisse bei Navigation und Vision erzielt.

So AI is not doing exactly what the brain is doing,

KI macht also nicht genau das, was das Gehirn tut,

but it's not completely random either.

aber sie ist auch nicht völlig zufällig.

Wenn wir also von meinem Standpunkt aus

So from where I sit,

if we want to know if AI really understands language like we do,

wissen wollen, ob KI Sprache wirklich so versteht wie wir,

we need to get inside of the Chinese room.

müssen wir in den chinesischen Raum gehen.

We need to know what the AI is doing,

Wir müssen wissen, was die KI tut,

and we need to be able to compare that to what people are doing

und wir müssen es mit dem vergleichen können,

when they understand language.

was Menschen tun, wenn sie Sprache verstehen.

AI is moving so fast.

KI bewegt sich so schnell.

Today, I'm asking you, does AI understand language

Heute frage ich Sie, ob KI Sprache versteht.

that might seem like a silly question in ten years.

Das könnte in zehn Jahren wie eine dumme Frage erscheinen.

Or ten months.

Oder in zehn Monaten.

(Laughter)

(Lachen)

But one thing will remain true.

Aber eines bleibt wahr.

We are meaning-making humans,

Wir sind bedeutungsstiftende Menschen,

and we are going to continue to look for meaning

wir werden weiterhin nach Sinn suchen

and interpret the world around us.

und die Welt um uns herum interpretieren.

And we will need to remember

Wir müssen uns daran erinnern,

that if we only look at the input and output of AI,

dass es sehr leicht ist, sich täuschen zu lassen,

wenn wir uns nur die Eingabe und Ausgabe von KI ansehen.

it's very easy to be fooled.

We need to get inside of the metaphorical room of AI

Wir müssen in den metaphorischen Raum der KI gelangen,

in order to see what's happening.

um zu sehen, was passiert.

It's what's inside the counts.

Es ist was darin ist, das zählt.

Thank you.

Danke.

(Applause)

(Applaus)