How to Get Inside the "Brain" of AI | Alona Fyshe | TED

المترجم: Omar Hammam المدقّق: Mohamed Salem

People are funny.

الناس مضحكون.

We're constantly trying to understand and interpret

نحاول دومًا فهم وتفسير

the world around us.

العالم من حولنا.

I live in a house with two black cats, and let me tell you,

أعيش في المنزل مع قطتين سوداوتين، ودعوني أخبركم

every time I see a black, bunched up sweater out of the corner of my eye,

أنني في كل مرة ألمح سترة مكدسة سوداء

I think it's a cat.

أعتقد أنها قطة.

It's not just the things we see.

وليست فقط الأشياء التي نراها،

Sometimes we attribute more intelligence than might actually be there.

فأحيانًا نحسب الأمر أذكى مما هو عليه.

Maybe you've seen the dogs on TikTok.

ربما رأيتم الكلاب على “تيك توك”،

They have these little buttons that say things like "walk" or "treat."

لديهم تلك الأزرار الصغيرة التي تقول أشياء مثل “تمشية” أو “تحلية”،

They can push them to communicate some things with their owners,

وبإمكانهم الضغط عليها للتواصل مع أصحابهم،

and their owners think they use them

ويظن أصحابهم أنهم يستخدمونها

to communicate some pretty impressive things.

لقول أشياء مبهرة.

But do the dogs know what they're saying?

لكن هل تعلم الكلاب ما تقوله حقًا؟

Or perhaps you've heard the story of Clever Hans the horse,

أو لعلكم سمعتم بقصة الحصان “كليفر هانز”

and he could do math.

وقدرته على الحساب.

And not just like, simple math problems, really complicated ones,

وليست عمليات حسابية بسيطة، بل عمليات معقدة

like, if the eighth day of the month falls on a Tuesday,

مثل: إذا كان يوم الثلاثاء هو 8 في الشهر، فما هو تاريخ الجمعة التالية؟

what's the date of the following Friday?

It's like, pretty impressive for a horse.

هذا مبهر بالنسبة لحصان!

Unfortunately, Hans wasn't doing math,

وللأسف فإن هانز لم يكن يحسب،

but what he was doing was equally impressive.

ولكن ما كان يقوم به مبهر أيضًا؛

Hans had learned to watch the people in the room

فقد تعلم هانز مشاهدة من في الغرفة

to tell when he should tap his hoof.

لمعرفة متى عليه ضرب الأرض بحافره،

So he communicated his answers by tapping his hoof.

فقد كان يجيب بالضرب بحافره.

It turns out that if you know the answer

اتضح أنه لو كنتم تعرفون الإجابة

to "if the eighth day of the month falls on a Tuesday,

لسؤال: “إذا كان الثلاثاء هو يوم 8 في الشهر،

what's the date of the following Friday,"

فما هو تاريخ الجمعة التالية؟”

you will subconsciously change your posture

فإنكم لا شعوريًا ستغيرون وقفتكم

once the horse has given the correct 18 taps.

بمجرد أن يجيب الحصان بالـ 18 ضربة الصحيحة.

So Hans couldn't do math,

ولذا فهانز لم يستطع الحساب،

but he had learned to watch the people in the room who could do math,

ولكنه تعلم مراقبة من في الغرفة الذين يستطيعون الحساب،

which, I mean, still pretty impressive for a horse.

وهذا لا يزال مبهرًا بالنسبة لحصان.

But this is an old picture,

ولكن هذه صورة قديمة،

and we would not fall for Clever Hans today.

ولن نخدع بكليفر هانز اليوم،

Or would we?

أم أننا سنخدع؟

Well, I work in AI,

أعمل في مجال الذكاء الاصطناعي

and let me tell you, things are wild.

ودعوني أخبركم أن الوضع جنوني.

There have been multiple examples of people being completely convinced

هناك عدة أمثلة لأشخاص يؤمنون

that AI understands them.

بأن الذكاء الاصطناعي يفهمهم.

In 2022,

في 2022،

a Google engineer thought that Google’s AI was sentient.

ظنّ مهندس في جوجل بأن ذكاء جوجل الاصطناعي كان واعيًا.

And you may have had a really human-like conversation

وربما خضتم محادثة شبه إنسانية

with something like ChatGPT.

مع شيء مثل ChatGPT.

But models we're training today are so much better

ولكن النماذج التي ندربها اليوم أفضل بكثير

than the models we had even five years ago.

من التي كانت لدينا قبل 5 سنوات.

It really is remarkable.

هذا شيء رائع حقًا!

So at this super crazy moment in time,

لذا ففي هذه اللحظة الجنونية جدًا في التاريخ،

let’s ask the super crazy question:

لنسأل السؤال الجنوني جدًا:

Does AI understand us,

هل يفهمنا الذكاء الاصطناعي،

or are we having our own Clever Hans moment?

أم أننا نمر بلحظة مثل كليفر هانز؟

Some philosophers think that computers will never understand language.

يظنّ بعض الفلاسفة أن الحواسيب لن تستطيع فهم اللغة أبدًا.

To illustrate this, they developed something they call

ولتوضيح هذا قاموا بتطوير

the Chinese room argument.

حجة الغرفة الصينية.

In the Chinese room, there is a person, hypothetical person,

يوجد في الغرفة الصينية شخص افتراضي

who does not understand Chinese,

لا يفهم الصينية،

but he has along with him a set of instructions

ولكن لديه مجموعة من التعليمات

that tell him how to respond in Chinese to any Chinese sentence.

تخبره كيف يرد بالصينية على أي جملة صينية.

Here's how the Chinese room works.

وهذه هي كيفية عمل الغرفة الصينية:

A piece of paper comes in through a slot in the door,

تدخل ورقة عبر فتحة الباب

has something written in Chinese on it.

مكتوب عليها شيء بالصينية،

The person uses their instructions to figure out how to respond.

ثم يتبع الشخص التعليمات ليعرف كيف يرد،

They write the response down on a piece of paper

ثم يكتب الرد على ورقة،

and then send it back out through the door.

ثم يعيده عبر الباب.

To somebody who speaks Chinese,

وبالنسبة لشخص يتحدث الصينية

standing outside this room,

ويقف خارج الغرفة

it might seem like the person inside the room speaks Chinese.

فقد يبدو أن من بالغرفة يتحدث الصينية،

But we know they do not,

ولكننا نعلم أنه لا يتحدثها؛

because no knowledge of Chinese is required to follow the instructions.

لأن معرفة الصينية ليست ضرورية لاتباع التعليمات،

Performance on this task does not show that you know Chinese.

والقيام بهذه المهمة لا يعني أنكم تعرفون الصينية.

So what does that tell us about AI?

فماذا يخبرنا هذا عن الذكاء الاصطناعي؟

Well, when you and I stand outside of the room,

حين نقف خارج الغرفة

when we speak to one of these AIs like ChatGPT,

ونتحدث إلى أحد برامج الذكاء الاصطناعي مثل ChatGPT،

we are the person standing outside the room.

فنحن من يقف خارج الغرفة.

We're feeding in English sentences,

ندخل جملًا إنجليزية،

we're getting English sentences back.

ونحصل مجددًا على جمل إنجليزية.

It really looks like the models understand us.

وقد يبدو أن النماذج تفهمنا حقًا،

It really looks like they know English.

وأنها بالفعل تعرف الإنجليزية،

But under the hood,

ولكن تحت الغطاء

these models are just following a set of instructions, albeit complex.

هذه النماذج تتبع فقط مجموعة من التعليمات وإن كانت معقدة.

How do we know if AI understands us?

كيف نعرف إن كان الذكاء الاصطناعي يفهمنا؟

To answer that question, let's go back to the Chinese room again.

وللإجابة على هذا السؤال، فلنعد مجددًا إلى الغرفة الصينية.

Let's say we have two Chinese rooms.

لنفترض أن لدينا غرفتين صينيتين،

In one Chinese room is somebody who actually speaks Chinese,

وفي إحداهما شخص يتحدث الصينية بالفعل،

and in the other room is our impostor.

وفي الأخر محتالنا.

When the person who actually speaks Chinese gets a piece of paper

حين يحصل الذي يتحدث الصينية على ورقة

that says something in Chinese in it, they can read it, no problem.

مكتوبة بالصينية فبإمكانه قرائتها بلا مشكلة.

But when our imposter gets it again,

ولكن حين يحصل عليها محتالنا،

he has to use his set of instructions to figure out how to respond.

فإن عليه أن يتبع تعليماته ليعرف كيف يرد.

From the outside, it might be impossible to distinguish these two rooms,

قد يصعب التفريق بين الغرفتين من الخارج

but we know inside something really different is happening.

ولكننا نعرف أن شيئًا مختلفًا حقًا يحدث بالداخل.

To illustrate that,

ولتوضيح هذا

let's say inside the minds of our two people,

لنفترض أن بداخل عقول هذين الشخصين

inside of our two rooms,

الذين داخل الغرفة

is a little scratch pad.

يوجد مسودة صغيرة،

And everything they have to remember in order to do this task

وأن كل ما يجب عليهما أن يتذكراه ليقوما بالمهمة

has to be written on that little scratch pad.

يجب أن يكون مكتوبًا في تلك المسودة.

If we could see what was written on that scratch pad,

وإذا استطعنا رؤية ما كتب في تلك المسودة،

we would be able to tell how different their approach to the task is.

فإننا سنستطيع معرفة الاختلاف بين منهج تنفيذهما للمهمة.

So though the input and the output of these two rooms

وبالرغم من أن مدخل الغرفتين وناتجهما

might be exactly the same,

قد يتطابقا،

the process of getting from input to output -- completely different.

فإن عملية الانتقال من المدخل إلى الناتج تختلف كليًا.

So again, what does that tell us about AI?

ولذ مجددًا، ماذا يخبرنا هذا عن الذكاء الاصطناعي؟

Again, if AI, even if it generates completely plausible dialogue,

فحتى لو أنتج الذكاء الاصطناعي حوارًا مقبولًا،

answers questions just like we would expect,

أو أجاب الأسئلة كما كنا نتوقع،

it may still be an imposter of sorts.

فإنه يظل محتالًا نوعًا ما.

If we want to know if AI understands language like we do,

إذا أردنا معرفة إذا كان الذكاء الاصطناعي يفهم اللغة مثلنا،

we need to know what it's doing.

فعلينا أن نعرف ما يقوم به.

We need to get inside to see what it's doing.

علينا أن ندخل لنرى ما يقوم به.

Is it an imposter or not?

أمحتال هو أم لا؟

We need to see its scratch pad,

نحتاج أن نرى مسودته،

and we need to be able to compare it

وأن نتمكن من مقارنتها

to the scratch pad of somebody who actually understands language.

بمسودة شخص يفهم اللغة حقًا.

But like scratch pads in brains,

ولكن كحال مسودات الدماغ،

that's not something we can actually see, right?

فهذا شيء لا نستطيع رؤيته في الحقيقة، أليس كذلك؟

Well, it turns out that we can kind of see scratch pads in brains.

في الحقيقة فإننا نستطيع نوعًا ما رؤية مسودات الدماغ.

Using something like fMRI or EEG,

فباستخدام التصوير بالرنين المغناطيسي الوظيفي

we can take what are like little snapshots of the brain while it’s reading.

أو تخطيط كهربية الدماغ، يمكننا الحصول ما يشبه لقطات صغيرة للدماغ أثناء القراءة.

So have people read words or stories and then take pictures of their brain.

وذلك بجعل الناس يقرأون كلمات أو قصصًا، ومن ثم تصوير أدمغتهم،

And those brain images are like fuzzy,

وتكون صور الدماغ هذه صورًا مشوشة

out-of-focus pictures of the scratch pad of the brain.

وخارج التركيز لمسودة الدماغ،

They tell us a little bit about how the brain is processing

وتخبرنا القليل عن كيفية معالجة الدماغ

and representing information while you read.

وتمثيله للمعلومات أثناء القراءة.

So here are three brain images taken while a person read the word "apartment,"

هذه ثلاث صور لدماغ شخص أثناء قراءته لكلمات “شقة”،

"house" and "celery."

و“منزل“، و“كرفس“.

You can see just with your naked eye

ويمكنكم أن تروا بأعينكم المجردة

that the brain image for "apartment" and "house"

أن صورة الدماغ لكلمتي “شقة” و“منزل”

are more similar to each other

مشابهتين لبعضهما

than they are to the brain image for "celery."

أكثر من مشابهتهما لصورة الدماغ لكلمة “كرفس“.

And you know, of course that apartments and houses are more similar

وتعلمون بالطبع أن الشقق والمنازل مشابهتين لبعضهما

than they are to celery, just the words.

أكثر من الكرفس من حيث الكلمات فقط.

So said another way,

وبصيغة أخرى،

the brain uses its scratchpad when reading the words "apartment" and "house"

يستخدم الدماغ مسودته أثناء قراءة كلمتي “شقة” و“منزل”

in a way that's more similar than when you read the word "celery."

بطريقة أكثر تشابهًا من قراءة كلمة “كرفس“.

The scratch pad tells us a little bit

تخبرنا المسودة القليل

about how the brain represents the language.

عن كيفية تمثيل الدماغ للغة.

It's not a perfect picture of what the brain's doing,

ليست صورة مثالية لما يقوم به الدماغ،

but it's good enough.

ولكن لا بأس بها.

OK, so we have scratch pads for the brain.

والآن لدينا مسودات الدماغ،

Now we need a scratch pad for AI.

ونحتاج مسودات الذكاء الاصطناعي.

So inside a lot of AIs is a neural network.

يوجد داخل الكثير من الذكاء الاصطناعي شبكة عصبية،

And inside of a neural network is a bunch of these little neurons.

وداخل الشبكة العصبية مجموعة من الأعصاب الصغيرة،

So here the neurons are like these little gray circles.

والأعصاب هنا هي تلك الدوائر الرمادية الصغيرة،

And we would like to know

ونريد أن نعرف

what is the scratch pad of a neural network?

ما هي مسودة الشبكة العصبية؟

Well, when we feed in a word into a neural network,

فحين ندخل كلمة للشبكة العصبية،

each of the little neurons computes a number.

يحسب كل عصب من تلك الأعصاب الصغيرة رقمًا،

Those little numbers I'm representing here with colors.

وأمثل تلك الأرقام الصغيرة هنا بالألوان،

So every neuron computes this little number,

ويحسب كل عصب هذا الرقم الصغير،

and those numbers tell us something

وتخبرنا تلك الأرقام شيئًا

about how the neural network is processing language.

عن كيفية معالجة الشبكة العصبية للغة.

Taken together,

وباجتماعها

all of those little circles paint us a picture

ترسم كل تلك الدوائر صورة لنا

of how the neural network is representing language,

عن كيفية تمثيل الشبكة العصبية للغة،

and they give us the scratch pad of the neural network.

وتعطينا مسودة الشبكة العصبية.

OK, great.

عظيم.

Now we have two scratch pads, one from the brain and one from AI.

لدينا الآن مسودتان، إحداهما للدماغ والآخرى للذكاء الاصطناعي.

And we want to know: Is AI doing something like what the brain is doing?

ونريد أن نجيب على سؤال: هل يقوم الذكاء الاصطناعي بعمل مشابه للدماغ؟

How can we test that?

كيف نختبر هذا؟

Here's what researchers have come up with.

وهذا هو ما توصل إليه الباحثون:

We're going to train a new model.

سنقوم بتدريب نموذج جديد،

That new model is going to look at neural network scratch pad

وهذا النموذج الجديد سينظر إلى مسودة الشبكة العصبية

for a particular word

لكلمة معينة،

and try to predict the brain scratch pad for the same word.

ويحاول توقع مسودة الدماغ لنفس الكلمة،

We can do it, by the way, around two.

ويمكننا القيام بذلك بطريقة عكسية أيضًا.

So let's train a new model.

ولذا لندرب نموذجًا جديدًا،

It’s going to look at the neural network scratch pad for a particular word

وسينظر إلى مسودة الشبكة العصبية لكلمة معينة،

and try to predict the brain scratchpad.

ويحاول توقع مسودة الدماغ.

If the brain and AI are doing nothing alike,

فإذا لم يقم الذكاء الاصطناعي والدماغ بعمل متشابه،

have nothing in common,

ولم يمتلكا شيئا مشتركا،

we won't be able to do this prediction task.

فلن نقدر على القيام بمهمة التوقع تلك،

It won't be possible to predict one from the other.

وسيستحيل توقع أحدهما من الآخر.

So we've reached a fork in the road

فها قد وصلنا إلى مفترق طرق،

and you can probably tell I'm about to tell you one of two things.

وبإمكانك غالبًا توقع أنني على وشك إخباركم بأحد شيئين:

I’m going to tell you AI is amazing,

إما أن أخبركم أن الذكاء الاصطناعي رائع،

or I'm going to tell you AI is an imposter.

وإما أن اخبركم أنه محتال.

Researchers like me love to remind you

يحب الباحثون أمثالي تذكيركم

that AI is nothing like the brain.

أن الذكاء الاصطناعي لا يشبه الدماغ

And that is true.

وهذا صحيح.

But could it also be the AI and the brain share something in common?

ولكن هل يمكن أن لديهما شيئًا مشتركًا؟

So we’ve done this scratch pad prediction task,

قمنا بمهمة توقع المسودة تلك،

and it turns out, 75 percent of the time

واتضح أنه في 75% من الأحيان كانت

the predicted neural network scratchpad for a particular word

مسودة الشبكة العصبية المتوقعة لكلمة معينة

is more similar to the true neural network scratchpad for that word

أكثر مماثلة لمسودة الشبكة العصبية الحقيقية لتلك الكلمة

than it is to the neural network scratch pad

منها لمسودة الشبكة العصبية

for some other randomly chosen word --

لكلمة أخرى عشوائية.

75 percent is much better than chance.

75% أفضل بكثير من الصدفة.

What about for more complicated things,

وماذا عن أشياء أكثر تعقيدًا،

not just words, but sentences, even stories?

وليست فقط كلمات، بل جمل، وحتى قصص؟

Again, this scratch pad prediction task works.

ومجددًا تعمل مهمة توقع المسودة تلك.

We’re able to predict the neural network scratch pad from the brain and vice versa.

وبإمكاننا توقع مسودة الشبكة العصبية من الدماغ والعكس.

Amazing.

رائع!

So does that mean

فهل يعني هذا

that neural networks and AI understand language just like we do?

أن الشبكات العصبية والذكاء الاصطناعي يفهمان اللغة مثلنا؟

Well, truthfully, no.

في الحقيقة كلّا!

Though these scratch pad prediction tasks show above-chance accuracy,

بالرغم من أن مهمات توقع المسودة تلك تظهر دقة أعلى من الصدفة،

the underlying correlations are still pretty weak.

فإن العلاقات الكامنة ما زالت ضعيفة جدًا.

And though neural networks are inspired by the brain,

وبالرغم من أن الشبكات العصبية مستوحاة من الدماغ،

they don't have the same kind of structure and complexity

فإنها لا تمتلك نفس التركيب والتعقيد

that we see in the brain.

اللذين نراهما في الدماغ.

Neural networks also don't exist in the world.

والشبكات العصبية غير موجودة في العالم،

A neural network has never opened a door

فهي لم تفتح بابًا

or seen a sunset, heard a baby cry.

أو ترى غروبًا أو تسمع بكاء طفل أبدًا.

Can a neural network that doesn't actually exist in the world,

فهل يمكن لشبكة عصبية لا توجد فعلًا في العالم،

hasn't really experienced the world,

ولم تجرب العالم،

really understand language about the world?

أن تفهم فعلًا لغة عن العالم؟

Still, these scratch pad prediction experiments have held up --

ومع ذلك، فقد صمدت تجارب توقع المسودة تلك

multiple brain imaging experiments,

للعديد من تجارب تصوير الدماغ،

multiple neural networks.

والعديد من الشبكات العصبية.

We've also found that as the neural networks get more accurate,

ووجدنا أيضًا أنه كلما زادت دقة الشبكات العصبية،

they also start to use their scratch pad in a way

فإنها تبدأ في استخدام مسودتها بطريقة

that becomes more brain-like.

تشبه الدماغ أكثر.

And it's not just language.

وليست فقط اللغة،

We've seen similar results in navigation and vision.

فقد رأينا نتائج مماثلة في الملاحة والرؤية.

So AI is not doing exactly what the brain is doing,

ولذا فالذكاء الاصطناعي لا يقوم بما يقوم به الدماغ بالضبط،

but it's not completely random either.

ولكن الأمر ليس عشوائيًا أيضًا.

So from where I sit,

ولذا فمن وجهة نظري

if we want to know if AI really understands language like we do,

إذا أردنا فعلًا معرفة هل يفهم الذكاء الاصطناعي اللغة مثلنا،

we need to get inside of the Chinese room.

فعلينا أن ندخل الغرفة الصينية،

We need to know what the AI is doing,

وأن نعرف ما يقوم به الذكاء الاصطناعي،

and we need to be able to compare that to what people are doing

وأن نتمكن من مقارنته بما يقوم به الناس

when they understand language.

حين يفهمون اللغة.

AI is moving so fast.

يتحرك الذكاء الاصطناعي بسرعة.

Today, I'm asking you, does AI understand language

اليوم أسألكم: هل يفهم الذكاء الاصطناعي اللغة،

that might seem like a silly question in ten years.

وهذا قد يبدو سؤالًا سخيفًا خلال عشر سنوات،

Or ten months.

أو عشرة شهور.

(Laughter)

(ضحك)

But one thing will remain true.

ولكن شيئًا واحدًا سيظل صحيحًا،

We are meaning-making humans,

وهو أننا بشر نصنع المعنى،

and we are going to continue to look for meaning

وسنظل نبحث عن المعنى،

and interpret the world around us.

ونفهم العالم من حولنا.

And we will need to remember

ونحتاج أن نتذكر

that if we only look at the input and output of AI,

أننا إذا نظرنا فقط إلى مدخل الذكاء الاصطناعي وناتجه،

it's very easy to be fooled.

فسيكون من السهل أن نُخدع.

We need to get inside of the metaphorical room of AI

نحتاج أن ندخل إلى غرفة الذكاء الاصطناعي المجازية؛

in order to see what's happening.

لنرى ما يحدث.

It's what's inside the counts.

ما يوجد بالداخل هو ما يهم.

Thank you.

شكرًا لكم.

(Applause)

(تصفيق)