Why AI Is Incredibly Smart and Shockingly Stupid | Yejin Choi | TED

المترجم: Abdullah Kassar المدقّق: Hani Eldalees

So I'm excited to share a few spicy thoughts on artificial intelligence.

انني متشوقة جداً لمشاركة بعض الافكار الثورية عن الذكاء الاصظناعي.

But first, let's get philosophical

مبدئياً، دعونا نتحدث فلسفياً

by starting with this quote by Voltaire,

بدايةً بهذا الاقتباس لفولتيير،

an 18th century Enlightenment philosopher,

فيلسوف متنور في القرن الثامن عشر،

who said, "Common sense is not so common."

فقد قال: ”المنطق العام ليس منتشر بين العوام”

Turns out this quote couldn't be more relevant

ولمفاجأتنا، هذا الاقتباس متطابق تماماً

to artificial intelligence today.

لحال الذكاء الاصطناعي.

Despite that, AI is an undeniably powerful tool,

وبالرغم من ذلك، يعتبر الذكاء الاصطناعي اداة مفيدة بالتأكيد

beating the world-class "Go" champion,

متغلباً على بطل من النخبة في بطولة Go للعبة الداما،

acing college admission tests and even passing the bar exam.

ومتفوقأ في امتحان قبول الطلاب في الكلية والمحامون في النقابة.

I’m a computer scientist of 20 years,

انا عالمة حاسوب بخبرة 20 عاماً،

and I work on artificial intelligence.

واعمل في مجال الذكاء الاصطناعي.

I am here to demystify AI.

وانا هنا لأزيل الغموض عن الذكاء الاصطناعي.

So AI today is like a Goliath.

فجالوت يمثل الذكاء الاصطناعي حالياً.

It is literally very, very large.

فالذكاء الاصطناعي حرفياً ضخم جداً.

It is speculated that the recent ones are trained on tens of thousands of GPUs

فالمتوقع ان الاصدارات الحديثة تُدرب باستخدام عشرات الالاف من المعالجات

and a trillion words.

وعلى تريليون كلمة.

Such extreme-scale AI models,

نموذج ضخم كهذا،

often referred to as "large language models,"

الذي يُسمى كثيراً ب “نماذج لغوية ضخمة“،

appear to demonstrate sparks of AGI,

توضح تولع ال AGI،

artificial general intelligence.

او الذكاء الاصطناعي بالمنطق الانساني.

Except when it makes small, silly mistakes,

إلا عندما تخطأ اخطاء صغيرة حمقاء،

which it often does.

وكثيراً ما تخطأ.

Many believe that whatever mistakes AI makes today

العديد يعتقد ان اي خطأ يرتكبه الذكاء الاصطناعي

can be easily fixed with brute force,

يمكن اصلاحه بسهولة يديوياً،

bigger scale and more resources.

او عبر التدريب على نطاق اوسع او موارد اوفر.

What possibly could go wrong?

فأين المشكلة في هذه الطريقة؟

So there are three immediate challenges we face already at the societal level.

تعترضنا 3 مشاكل فوراً على النطاق المجتمعي.

First, extreme-scale AI models are so expensive to train,

الاولى هي الكلفة العالية لتدريب الذكاء الاصطناعي ذو النطاق الكبير

and only a few tech companies can afford to do so.

والشركات القادرة على نفقة كبيرة كهذه نادرة.

So we already see the concentration of power.

وبدأنا نرى ميل موازين المنافسة لهذه الشركات.

But what's worse for AI safety,

ولكن الاسوء من ذلك في مجال الذكاء الاصطناعي.

we are now at the mercy of those few tech companies

اننا الان تحت رحمة تلك الشركات القليلة

because researchers in the larger community

لأن الباحثون في المجال الاكبر

do not have the means to truly inspect and dissect these models.

لا يملكون القدرات اللازمة لفحص ودراسة هذه النماذج بشكل دقيق.

And let's not forget their massive carbon footprint

لا سيما الانبعاثات الكربونية الضخمة منها

and the environmental impact.

والبصمة البيئية.

And then there are these additional intellectual questions.

وهنا تنبثق اسئلة منطقية اضافية

Can AI, without robust common sense, be truly safe for humanity?

كهل يهدد الذكاء الاصطناعي امان البشر حتى دون المنطق البسيط؟

And is brute-force scale really the only way

وهل تذريب الذكاء الاصطناعي يدوياً هي الطريقة الصحيحة؟

and even the correct way to teach AI?

So I’m often asked these days

وكثيراً ما أُسأل حالياً

whether it's even feasible to do any meaningful research

عن امكانية القيام باي ودراسة ذو قيمة عن الموضوع

without extreme-scale compute.

دون احصاء دقيق.

And I work at a university and nonprofit research institute,

فأنا ادرس في جامعة واعمل في مؤسسة غير هادفة للربح،

so I cannot afford a massive GPU farm to create enormous language models.

وما زلت لا استطيع بناء محطة تدريب ضخمة بمعالجات متقدمة.

Nevertheless, I believe that there's so much we need to do

وبالرغم من ذلك، اعتقد ان علينا وبأمكاننا فعل الكثير

and can do to make AI sustainable and humanistic.

لأضفاء اللمسة الانسانية والاستدامة الى الذكاء الاصطناعي

We need to make AI smaller, to democratize it.

يجب علينا ان نقلّم حجمه ونجعله متاح للجميع.

And we need to make AI safer by teaching human norms and values.

وينبغي ايضاً جعل الذكاء الاصطناعي آمن عبر توعية البشر وغرس القيم بهم.

Perhaps we can draw an analogy from "David and Goliath,"

يمكننا تشبيه الامر بقصة داود وجالوت،

here, Goliath being the extreme-scale language models,

هنا، جالوت يمثل النماذج اللغوية الضخمة

and seek inspiration from an old-time classic, "The Art of War,"

ونستلهم من الكتاب العريق “فن الحرب”

which tells us, in my interpretation,

الذي يعلمنا، بناء على ما فهمته

know your enemy, choose your battles, and innovate your weapons.

ان عليك ان تعرف عدوك، ثم تختار معركتك وتبدع الاسلحة المناسبة لكليهما.

Let's start with the first, know your enemy,

لنبدأ بفهم مقولة، اعرف عدوك

which means we need to evaluate AI with scrutiny.

التي تعني في سياقنا ان علينا تقييم الذكاء الاصطناعي بدقة

AI is passing the bar exam.

لأن يمكن للذكاء الاصطناعي ان يجتاز اختبار القبول بالنقابة.

Does that mean that AI is robust at common sense?

هل هذا يعني الى تمتع الذكاء الاصطناعي بالمنطق السليم؟

You might assume so, but you never know.

قد تعتقد كذلك، لكن لن نعرف ابداً.

So suppose I left five clothes to dry out in the sun,

لنفرض اني تركت خمس ملابس تحت الشمس

and it took them five hours to dry completely.

واستغرق الامر خمس ساعات لينشفوا تماماً.

How long would it take to dry 30 clothes?

كم سيأخذ 30 لباس لينشف؟

GPT-4, the newest, greatest AI system says 30 hours.

GPT-4، احدث واكبر نظام ذكاء اصطناعي يخطأ ويجاوب 30 ساعة.

Not good.

ليس بالامر الجيد قطعاً

A different one.

مثال اخر.

I have 12-liter jug and six-liter jug,

لدي ابريق يسع 12 ليتر واخر 6 ليتر

and I want to measure six liters.

واريد ان اقيس 6 ليترات من سائل

How do I do it?

كيف يمكنني فعل ذلك؟

Just use the six liter jug, right?

ببساطة استخدم الابريق ذا الستة ليترات، اليس كذلك؟

GPT-4 spits out some very elaborate nonsense.

GPT-4 يتفوه بكلام غير منطقي بتفاصيل عميقة

(Laughter)

(ضحك)

Step one, fill the six-liter jug,

الخطوة الاولى، املئ الابريق ذا الستة ليترات،

step two, pour the water from six to 12-liter jug,

ثانياً، اسكب المياه من الابريق ذي الستة الى 12 ليترات

step three, fill the six-liter jug again,

ثالثاً، املأ الابريق ذا الستة مرة اخرى،

step four, very carefully, pour the water from six to 12-liter jug.

رابعاً، بهدوء اسكب الماء من الابريق ذي الستة ليترات الى ذي الاثني عشر ليتراً

And finally you have six liters of water in the six-liter jug

واخيراً ستحصل على ستة ليترات في الابريق ذي الستة ليترات

that should be empty by now.

الذي منطقياً يجب ان يكون فارغا

(Laughter)

(ضحك)

OK, one more.

حسناً، مثال اخير

Would I get a flat tire by bicycling over a bridge

هل سينعطب دولاب الدراجة ان سرنا فوق جسر

that is suspended over nails, screws and broken glass?

معلق فوق مسامسير وبراغي وزجاج منكسر؟

Yes, highly likely, GPT-4 says,

سيجاوب GPT-4 بنعم،

presumably because it cannot correctly reason

افترضُ ان السبب هو انه لا يستطيع ان يفهم

that if a bridge is suspended over the broken nails and broken glass,

أن إن كان الجسر معلق فوق مسامير وزجاج محطم

then the surface of the bridge doesn't touch the sharp objects directly.

ان هذا لا يعني ان سطح الجسر يلامس القطع الحادة

OK, so how would you feel about an AI lawyer that aced the bar exam

ما رأيك ان الذكاء الاصطناعي الذي اجتاز اختبار القبول بنقابة المحاماة

yet randomly fails at such basic common sense?

لا يستطيع فهم امور بسيطة كهذه؟

AI today is unbelievably intelligent and then shockingly stupid.

الذكاء الاصطناعي حالياً ذكيٌ بشكل لا يصدق ولكن غبيٌ بشكل مفاجئ

(Laughter)

(ضحك)

It is an unavoidable side effect of teaching AI through brute-force scale.

انه الاثر المحتم من تدريب الذكاء الاصطناعي يدوياً

Some scale optimists might say, “Don’t worry about this.

بعض المتفائلون بتدريب الذكاء الاطناعي اكثر يقولون : لا تقلقوا من هذا

All of these can be easily fixed by adding similar examples

جميع هذه المشكلات يمكن ان تحل عبر تدريب الذكاء الاصطناعي على اسئلة مشابهة

as yet more training data for AI."

اي بيانات اكثر لتدريب الذكاء الاصطناعي.

But the real question is this.

لكن التساؤل الاهم هو

Why should we even do that?

لما يجب ان نقوم بذلك اصلاً؟

You are able to get the correct answers right away

انت كانسان يمكنك الاجابة فوراً

without having to train yourself with similar examples.

دون تذريب نفسك على اسئلة مشابهة.

Children do not even read a trillion words

والاطفال لم يقرؤو تريليون كلمة

to acquire such a basic level of common sense.

ليكتسبوا المنطق والتفكير السليم

So this observation leads us to the next wisdom,

اذا هذه الملاحظة توصلنا الى حكمتنا التالية

choose your battles.

اختر معاركك بتمعن.

So what fundamental questions should we ask right now

ما هو السؤال الذي يجب ان يُسأل ويُجاوب الان

and tackle today

in order to overcome this status quo with extreme-scale AI?

لنحل معضلة الذكاء الاصطناعي ذي النطاق الاوسع؟

I'll say common sense is among the top priorities.

برأيي ان المنطق السليم هو بين الاولويات العُليا.

So common sense has been a long-standing challenge in AI.

فالمنطق السليم يقف عائقاً في طريق الذكاء الاصطناعي

To explain why, let me draw an analogy to dark matter.

لأبسط الفكرة، دعوني استخدم المادة المظلمة كتشبيه

So only five percent of the universe is normal matter

فقط 5% من الكون مكون من مواد عادية

that you can see and interact with,

الذي نحسها ونتفاعل معها،

and the remaining 95 percent is dark matter and dark energy.

اما ال 95% الباقية فمكونة من مادة وطاقة مظلمة.

Dark matter is completely invisible,

المادة المظلمة غير مرئية بالمرة،

but scientists speculate that it's there because it influences the visible world,

لكن افترضها العلماء لأنها تؤثر على العالم المرئي

even including the trajectory of light.

تؤثر حتى على مسار الضوء.

So for language, the normal matter is the visible text,

لنعود الى موضوعنا، المادة العادية تمثل النصوص المقدمة للذكاء الاصطناعي

and the dark matter is the unspoken rules about how the world works,

اما المادة المظلمة تمثل قواعد عامة غير مقدمة لهذا الذكاء عن كيفية الحياة،

including naive physics and folk psychology,

مثل الفيزياء البسيطة وعلم النفس البسيط

which influence the way people use and interpret language.

التي تؤثر على كيف يستخدم البشر الكلام ويفسرها

So why is this common sense even important?

اذا لماذا المنطق السليم هام؟

Well, in a famous thought experiment proposed by Nick Bostrom,

في تجربة شهيرة مقدمة من نيك بوستروم،

AI was asked to produce and maximize the paper clips.

طُلب من الذكاء الاصطناعي صناعة اكبر قدر من مشابك الورق.

And that AI decided to kill humans to utilize them as additional resources,

فقرر هذا الذكاء قتل البشر ليستخدمهم كموارد اضافية في التصنيع

to turn you into paper clips.

اي ليحولكم الى مشابك ورق.

Because AI didn't have the basic human understanding about human values.

وذلك لأن الذكاء الاصطناعي لا يفهم مبادئ البشر

Now, writing a better objective and equation

والان، سنطلب منه نفس الهدف

that explicitly states: “Do not kill humans”

ونفصل بشكل واضح للذكاء الاصطناعي “لا تقتل اي انسان”

will not work either

ولكن ذلك لن ينفع ايضاً

because AI might go ahead and kill all the trees,

لأن الذكاء الاصطناعي سيقرر قطع كل الاشجار،

thinking that's a perfectly OK thing to do.

معتقداً ان ذلك طبيعي وعادي.

And in fact, there are endless other things

بالواقع هنالك الكثير من الامور

that AI obviously shouldn’t do while maximizing paper clips,

يجب على الروبوت اجتنابه في تصنيع اكبر قدر من المشابك

including: “Don’t spread the fake news,” “Don’t steal,” “Don’t lie,”

مثل : “لا تنشر اخبار مزيفة“، “لاتسرق”، “لا تكذب”،

which are all part of our common sense understanding about how the world works.

وجميعهم نعرفه نحن كجزءٍ من المنطق السليم

However, the AI field for decades has considered common sense

لكن يعتبر ذلك في مجال الذكاء الاصطناعي

as a nearly impossible challenge.

تحدي شبه مستحيل.

So much so that when my students and colleagues and I

وعندما عملنا انا وزملائي وطلابي

started working on it several years ago, we were very much discouraged.

على هذه المشكلة قبل عدة سنين، خاب املنا كثيراً

We’ve been told that it’s a research topic of ’70s and ’80s;

قيل لنا ان بدأ دراسة الامر منذ السبعينات والثمانيات

shouldn’t work on it because it will never work;

وان لا نعمل عليها لأنها لن تعمل ابداً؛

in fact, don't even say the word to be taken seriously.

او حتى لا تأخذ الموضوع بشكل جاد.

Now fast forward to this year,

ثم مرت الايام حتى وصلنا الى هذه السنة

I’m hearing: “Don’t work on it because ChatGPT has almost solved it.”

وامسيت اسمع: “لا تعمل على الامر لأن ChatGPT اوشك على حلّها”

And: “Just scale things up and magic will arise,

واسمع ايضاً: “فقط وسّع نطاق البيانات وستنحل المشكلة سحرياً، دون تدخل اي شئ اخر”

and nothing else matters.”

So my position is that giving true common sense

ولكن رايي ان اعطاء منطق سليم حقيقي

human-like robots common sense to AI, is still moonshot.

مشابه للبشر للروبوتات امر بعيد كبعد القمر.

And you don’t reach to the Moon

ولن تصل الى القمر ابداً

by making the tallest building in the world one inch taller at a time.

عبر زيادة طول اعلى عمران الارض بسنتيميتر واحد.

Extreme-scale AI models

فالذكاء الاصطناعي بنطاق واسع

do acquire an ever-more increasing amount of commonsense knowledge,

يكتسبون بالفعل اجزاء متزايدة من المنطق العام

I'll give you that.

سأقرّ لكم بذلك.

But remember, they still stumble on such trivial problems

لكن تذكروا، انهم ما زالوا يرتبكون في مشكلات تافه

that even children can do.

التي حتى الاطفال يستطيعون حلها.

So AI today is awfully inefficient.

لذلك الذكاء الاصطناعي حالياً غير مفيد بالمرة

And what if there is an alternative path or path yet to be found?

ولكن ماذا لو هنالك طريقة اخرى لم تُستكشف بعد؟

A path that can build on the advancements of the deep neural networks,

طريقة اخرى ممكن ان تستثمر التطورات في الشبكات المترابطة العميقة

but without going so extreme with the scale.

لكن دون اللجوء للنطاق الكبير.

So this leads us to our final wisdom:

وهذا ما يقودنا الى حكمتنا الاخيرة

innovate your weapons.

ابتكر سلاحك.

In the modern-day AI context,

فهذا يعني في السياق الحالي للذكاء الاصطناعي ابتكار بيانات وخوارزميات

that means innovate your data and algorithms.

OK, so there are, roughly speaking, three types of data

حسناً، تقريباً 3 انواع من البيانات

that modern AI is trained on:

التي يتدرب عليها الذكاء الاصطناعي:

raw web data,

بيانات مجردة من الانترنت،

crafted examples custom developed for AI training,

وامثلة مصممة خصيصاً للذكاء الاصطناعي،

and then human judgments,

وتقييمات الانسان

also known as human feedback on AI performance.

الذي يُعرف ايضاً تعليق الانسان على اداء الذكاء الاصطناعي.

If the AI is only trained on the first type, raw web data,

اذا دُرّب الذكاء الاصطناعي على النوع الأول فقط، بيانات مجردة من الشابكة،

which is freely available,

المتاحة بشكل حرّ،

it's not good because this data is loaded with racism and sexism

هذا امر غير جيد لأن هذه البيانات ملوثة بالتمييز على اساس العرق و الجنس

and misinformation.

والمعلومات الخاطئة.

So no matter how much of it you use, garbage in and garbage out.

لذا مهما استخدمتها، فستعطيك نتائج سيئة لأنك دربته على بيانات سيئة.

So the newest, greatest AI systems

ولذلك الحدث واكبر نظام ذكاء اصطناعي

are now powered with the second and third types of data

يعمل الان باستخدام النوع الثاني والثالث من البيانات

that are crafted and judged by human workers.

التي تُصمم وتُقيم عبر عُمّال بشر.

It's analogous to writing specialized textbooks for AI to study from

انه مثل كتابة كتب مدرسية مخصصة ليدرس منها الذكاء الاصطناعي

and then hiring human tutors to give constant feedback to AI.

ثم توظيف مدرسين مخصصين ليصححوا اخطائه

These are proprietary data, by and large,

هذا ما ندعوه بالبيانات الخاصة، وعلى النطاق الاوسع

speculated to cost tens of millions of dollars.

متوقع ان يُكلف عشرات ملايين الدولارات.

We don't know what's in this,

ما نعلم ما في الامر

but it should be open and publicly available

لكن نعرف ان الامر يجب ان يكون متاح للجميع

so that we can inspect and ensure [it supports] diverse norms and values.

كي نتمكن من فحص وندعم القيم المختلفة

So for this reason, my teams at UW and AI2

ولهذا السبب، يعمل فريقي في جامعة واشنطن ومختبرات الذكاء

have been working on commonsense knowledge graphs

على معرفة المنطق السليم

as well as moral norm repositories

وتعريف الذكاء الاصطناعي على القيم الاخلاقية

to teach AI basic commonsense norms and morals.

لنعلمهم المنطق السليم والقيم والاعراف

Our data is fully open so that anybody can inspect the content

بياناتنا متاحة لأي شخص ليلقي نظرة على محتواها

and make corrections as needed

والتصحيح ان لزم الامر

because transparency is the key for such an important research topic.

لأن الشفافية هي اساس مجال بحث هام كهذا

Now let's think about learning algorithms.

اما الان، دعونا نتكلم عن تعلم الخوارزميات.

No matter how amazing large language models are,

لأنه مهما بلغت النماذج اللغوية من عظمة،

by design

من اصل تصميمها،

they may not be the best suited to serve as reliable knowledge models.

لن تناسب خدمة نماذج المعرفة العامة

And these language models do acquire a vast amount of knowledge,

بالرغم ان هذه النماذج تكتسب قدر شاسع من المعرفة

but they do so as a byproduct as opposed to direct learning objective.

لكن يكتسبوها كنتيجة ثانوية لا كهدف اساسي.

Resulting in unwanted side effects such as hallucinated effects

مما يؤدي الى مشاكل جانبية مثل تخيل امور لا صلة لها بالامر

and lack of common sense.

او ضعف التفكير السليم.

Now, in contrast,

اما الامر المناقض تماماً،

human learning is never about predicting which word comes next,

هو تعلم البشر الذي لا يعتمد ابداً على توقع الكلمة التالية،

but it's really about making sense of the world

بل يعتمد على الفهم الواقعي للمحيط

and learning how the world works.

وكيفية سير امور الحياة

Maybe AI should be taught that way as well.

ربما يحب علينا ان نعلم الذكاء الاصطناعي هكذا

So as a quest toward more direct commonsense knowledge acquisition,

كسعي مباشر نحو اكتساب معرفة وتفكير سليم

my team has been investigating potential new algorithms,

فقد جرّب فريقي خوارزميات جديدة محتملة

including symbolic knowledge distillation

كتقطير البيانات الغير عملية الى نماذج اصغر عملية

that can take a very large language model as shown here

التي يمكن ان تأخذ النماذج اللغوية الضخمة

that I couldn't fit into the screen because it's too large,

التي تستطع الشاشة استيعابها بسبب حجمها الضخم،

and crunch that down to much smaller commonsense models

وتجزئه الى نماذج منطق سليم صغيرة

using deep neural networks.

بساتخدام الشبكات المتصلة بعمق.

And in doing so, we also generate, algorithmically, human-inspectable,

وعبر ذلك، يمكننا توليد، خوارزمياً، تعريف قابل للفحص من قبل البشر

symbolic, commonsense knowledge representation,

ورمزي عن معرفة المنطق العام

so that people can inspect and make corrections

التي يستطيع الافراد فحصها وتصحيحها

and even use it to train other neural commonsense models.

بل حتى استخدامها لتدريب نماذج منطق سليم اخرى.

More broadly,

من النظرة الخارجية،

we have been tackling this seemingly impossible giant puzzle

لقد كنا نحلً هذه الاحجية الصعبة

of common sense, ranging from physical,

عن المنطق السليم المادي والاجتماعي والمرئي

social and visual common sense

to theory of minds, norms and morals.

وقراءة مشاعر الاخرين، وفهم القيم والاعراف

Each individual piece may seem quirky and incomplete,

فكل جزء منه يبدو ناقص

but when you step back,

ولكن عندما تنظر للصورة العامة،

it's almost as if these pieces weave together into a tapestry

تشعر وكأن كل جزء مترابط كالنسيج

that we call human experience and common sense.

وهذا ما ندعوه بخبرة الانسانن والمنطق العام

We're now entering a new era

اننا الان في خضم حقبة جديدة

in which AI is almost like a new intellectual species

التي فيها يعتبر الذكاء الاصطناعي ذكاء حيّ

with unique strengths and weaknesses compared to humans.

بمواطن ضعف وقوة نسبةً للانسان

In order to make this powerful AI

ولنجعل هذا الذكاء العبقري

sustainable and humanistic,

قادر على العمل بشكل مستمر وبشري

we need to teach AI common sense, norms and values.

يجب ان نعلم الذكاء الاصطناعي عن المنطق العام والقيم والاعراف.

Thank you.

وشكراً لكم

(Applause)

(تصفيق)

Chris Anderson: Look at that.

كريس اندريسون: انتبهوا لحظةً

Yejin, please stay one sec.

يجين، تفضلي بالبقاء لحظةً

This is so interesting,

لدي امر مثير للاهتمام،

this idea of common sense.

فكرة المنطق السليم

We obviously all really want this from whatever's coming.

نريدها جميعاً في اي ذكاء قادم.

But help me understand.

لكن اشرحي لي

Like, so we've had this model of a child learning.

كيف ان الطفل مثلاً يتعلم

How does a child gain common sense

كيف يكتسب الطفل المنطق السليم

apart from the accumulation of more input

بعيداً عن تراكم المرات التي شهدها الطفل عن المنطق

and some, you know, human feedback?

وبعيداً عن رد فعل الافراد من حوله؟

What else is there?

هل هنالك اي امر مساعد اخر

Yejin Choi: So fundamentally, there are several things missing,

يجين تشوي: بالاساس يوجد عدة امور مفقودة

but one of them is, for example,

واحداهم مثلاً

the ability to make hypothesis and make experiments,

القدرة على التجربة والاستكشاف

interact with the world and develop this hypothesis.

القدرة على التفاعل مع المحيط وبناء افتراضات

We abstract away the concepts about how the world works,

فنستخلص من هذا فكرة سير الحياة

and then that's how we truly learn,

ثم نتعلم حفّاً

as opposed to today's language model.

بعكس ما يجري الان مع النماذج اللغوية

Some of them is really not there quite yet.

فبعضهم لم يصل لهذه المرحلة بعد

CA: You use the analogy that we can’t get to the Moon

كريس: استخدمتي التشبيه ان لن تستطيع ان تصل الى القمر

by extending a building a foot at a time.

عبر تطويل بناء سينتيميتر تلو الاخر

But the experience that most of us have had

لكن التجربة التي خضناها

of these language models is not a foot at a time.

مع هذه النماذج لسيت سينتيميتر تلو الاخر

It's like, the sort of, breathtaking acceleration.

بل تشبه اكثر تسارع متقطع.

Are you sure that given the pace at which those things are going,

امتأكدة انتي ان الوتيرة التي تجرى بها الامور

each next level seems to be bringing with it

او التي يجلبها المستويات التالية

what feels kind of like wisdom and knowledge.

تشبه المعرفة والحكمة.

YC: I totally agree that it's remarkable how much this scaling things up

يجين: انا اوافقك الرأي ان الوتيرة الضخمه لهذا الامر كبير

really enhances the performance across the board.

والتي تحسن الاداء بشكل عام

So there's real learning happening

اذا التعليم الفعلي يحصل بالفعل

due to the scale of the compute and data.

بسبب اتساع الحوسبة والبيانات

However, there's a quality of learning that is still not quite there.

لكن جودة هذا التعلم ليس بالمستوى المطلوب.

And the thing is,

والامر الاخطر،

we don't yet know whether we can fully get there or not

اننا لا نعرف اذا بإمكاننا ان نصل لتلك المرحلة ام لا

just by scaling things up.

عبر توسيع الحوسبة فقط

And if we cannot, then there's this question of what else?

وان لم نستطع، ماذا سنفعل حينها

And then even if we could,

وان استطعنا،

do we like this idea of having very, very extreme-scale AI models

هل الحجم الضخم لهذه النماذج بالامر السار

that only a few can create and own?

لأن هذا يعني ان قلة من يقدرون عليها ويتحكمون بها؟

CA: I mean, if OpenAI said, you know, "We're interested in your work,

كريس: اعني، ان اخبرتك شركة انهم مهتمون بأفكارك

we would like you to help improve our model,"

وطلبوا منك ان تساعديهم في تطوير نموذجهم

can you see any way of combining what you're doing

هل سيكون عندي اي فكرة كيف يمكنكي ان تدمجي ما بنيته

with what they have built?

مع ما بنوه؟

YC: Certainly what I envision

يجين: بالطبع اتصور ان

will need to build on the advancements of deep neural networks.

سيكون علينا بناء فوق التطورات الحاصلة في الشبكات المرتبطة بعمق.

And it might be that there’s some scale Goldilocks Zone,

ويمكن ان يكون هنالك حدّاً معيناً

such that ...

مثل...

I'm not imagining that the smaller is the better either, by the way.

بالمناسبة، انا لا اقصد ان النماذج الصغية افضل.

It's likely that there's right amount of scale, but beyond that,

بل اعتقد ان هنالك حجم مناسب متوسط، لكن غير ذلك

the winning recipe might be something else.

الوصفة الرابحة قد تكون امر مخالف تماماًُ

So some synthesis of ideas will be critical here.

ولذلك تجربة الافكار امر هام

CA: Yejin Choi, thank you so much for your talk.

كريس: يجين تشوي، شكراً لك على خطابك.

(Applause)

(تصفيق)