The Inside Story of ChatGPT’s Astonishing Potential | Greg Brockman | TED

المترجم: DAHOU Mohamed المدقّق: gaith Takrity

We started OpenAI seven years ago

أنشأنا شركة (أوبن إي آي) قبل 7 سنوات

because we felt like something really interesting was happening in AI

لأننا شعرنا أن شيئاً مثيراً للغاية كان يجري في الذكاء الاصطناعي

and we wanted to help steer it in a positive direction.

وأردنا المساعدة في توجيهه في اتجاه إيجابي.

It's honestly just really amazing to see

وبصراحة، إنه لأمر مدهش حقًا

how far this whole field has come since then.

رؤية الطريق الذي قطعه هذا المجال بأكمله منذ ذلك الوقت.

And it's really gratifying to hear from people like Raymond

وإنه من المثلج للصدر أن نسمع من أشخاص مثل ريموند

who are using the technology we are building, and others,

الذين يستخدمون التكنولوجيا التي نصنعها، ومن أشخاص آخرين،

for so many wonderful things.

لأشياء أخرى عديدة رائعة.

We hear from people who are excited,

نسمع من أشخاص متحمسين،

we hear from people who are concerned,

وأشخاص يساورهم الشك،

we hear from people who feel both those emotions at once.

وأشخاص يساورهم الشعورين معا في آن واحد.

And honestly, that's how we feel.

وبصراحة، هذا ما نشعر به.

Above all, it feels like we're entering an historic period right now

وقبل كل شيء، يبدو أننا شرعنا في حقبة تاريخية

where we as a world are going to define a technology

حيث سنقوم كعالم بتحديد تعريف لتقنية ناشئة

that will be so important for our society going forward.

ستكون مهمة جدا لمجتمعنا في المستقبل.

And I believe that we can manage this for good.

وأعتقد أنه يمكننا إدارة هذا الأمرمن أجل الخير.

So today, I want to show you the current state of that technology

لذا، أود أن أعرض عليكم اليوم الوضع الحالي لهذه التقنية

and some of the underlying design principles that we hold dear.

وبعض المبادئ التصميمية الأساسية التي نولي لها اهتماماً كبيراً.

So the first thing I'm going to show you

أول شيء سأريكم إياه

is what it's like to build a tool for an AI

هو كيفية بناء أداة للذكاء الاصطناعي

rather than building it for a human.

بدلاً من بنائها للإنسان.

So we have a new DALL-E model, which generates images,

لدينا نموذج جديد من دال-إي، يقوم بتوليد الصور،

and we are exposing it as an app for ChatGPT to use on your behalf.

ونقوم بعرضه كتطبيق يستخدمه تشات جي بي تي بالنيابة عنكم.

And you can do things like ask, you know,

ويمكنكم القيام بأشياء مثل طرح أسئلة،

suggest a nice post-TED meal and draw a picture of it.

أقترح وجبة لطيفة بعد تيد ورسم صورة لها.

(Laughter)

(ضحك)

Now you get all of the, sort of, ideation and creative back-and-forth

الآن يمكنكم الحصول على كل أنواع الأفكار والإبداع بصفة تفاعلية

and taking care of the details for you that you get out of ChatGPT.

والاهتمام عوضا عنكم بالتفاصيل التي تحصلون عليها من تشات جي بي تي.

And here we go, it's not just the idea for the meal,

والأمر لا يتعلق فقط بفكرة الوجبة،

but a very, very detailed spread.

بل بتفاصيل دقيقة للغاية.

So let's see what we're going to get.

لذلك دعونا نرى ما سنحصل عليه.

But ChatGPT doesn't just generate images in this case --

ولكن تشات جي بي تي لا يكتفي فقط بتوليد الصور في هذه الحالة --

sorry, it doesn't generate text, it also generates an image.

عفواً، لا يقوم بتوليد النصوص فقط، بل يولد صورًا أيضا.

And that is something that really expands the power

وهذا شيء يوسع حقاً نطاق قدرته

of what it can do on your behalf in terms of carrying out your intent.

على القيام مكانكم بما تريدونه لتنفيذ أهدافكم.

And I'll point out, this is all a live demo.

وأشير إلى أن هذا كله عرض توضيحي مباشر.

This is all generated by the AI as we speak.

فكل هذا يولده الذكاء الاصطناعي أثناء المحادثة.

So I actually don't even know what we're going to see.

لذا حتى أنا لا أعلم في الواقع ما الذي سنراه.

This looks wonderful.

يبدو هذا مدهشاً.

(Applause)

(تصفيق)

I'm getting hungry just looking at it.

مجرد النظر إلى الصورة يشعرني بالجوع.

Now we've extended ChatGPT with other tools too,

وقد قمنا بتزويد تشات جي بي تي بأدوات أخرى أيضاً،

for example, memory.

مثل الذاكرة.

You can say "save this for later."

يمكنكم قول “قم بحفظ هذا لوقت لاحق.”

And the interesting thing about these tools

والمثير للاهتمام بشأن هذه الأدوات

is they're very inspectable.

هو أنها قابلة للفحص بسهولة.

So you get this little pop up here that says "use the DALL-E app."

تقول لكم هذه النافذة المنبثقة الصغيرة ”استخدم تطبيق دال-إي“

And by the way, this is coming to you, all ChatGPT users, over upcoming months.

وبالمناسبة، سنوفر هذه الميزة قريبا لكل مستخدمي تشات جي بي تي.

ويمكنكم أن تنظروا عن كثب وتروا أن ما فعله الجهاز في الواقع

And you can look under the hood and see that what it actually did

هو كتابة تعليمات تماماً كما يمكن للإنسان فعله.

was write a prompt just like a human could.

And so you sort of have this ability to inspect

وبالتالي لديكم هذه القدرة على فحص

how the machine is using these tools,

كيف تستخدم الآلة هذه الأدوات،

which allows us to provide feedback to them.

مما يسمح لنا بتقديم ملاحظاتنا لها.

Now it's saved for later,

لقد تم حفظها لوقت لاحق،

and let me show you what it's like to use that information

دعوني أريكم ما يعنيه استخدام تلك المعلومات

and to integrate with other applications too.

ودمجها مع تطبيقات أخرى أيضاً.

You can say,

يمكنكم أن تطلبوا منه،

“Now make a shopping list for the tasty thing

”الآن قم بإعداد قائمة تسوق للأشياء اللذيذة

I was suggesting earlier.”

التي اقترحتها سابقاً“

And make it a little tricky for the AI.

ولنصعبها قليلا على الذكاء الاصطناعي.

"And tweet it out for all the TED viewers out there."

”وقم بتغريدها على تويتر لكل مشاهدي محادثات تيد هناك”

(Laughter)

(ضحك)

So if you do make this wonderful, wonderful meal,

إذا قمتم بإعداد هذه الوجبة الشهية،

I definitely want to know how it tastes.

فسأرغب بالتأكيد في تذوقها.

But you can see that ChatGPT is selecting all these different tools

ويمكنكم ملاحظة أن تشات جي بي تي يختار كل هذه الأدوات المختلفة

without me having to tell it explicitly which ones to use in any situation.

بدون الحاجة إلى إخباره تحديداً أيا منها يجب أن يستخدم وفي أي حالة.

And this, I think, shows a new way of thinking about the user interface.

وهذا، في رأيي، يُظهر طريقة جديدة للتفكير في واجهة المستخدم.

Like, we are so used to thinking of, well, we have these apps,

فنحن معتادون جداً على التفكير بأن لدينا تطبيقات،

we click between them, we copy/paste between them,

ننقر بينها وننسخ/نلصق فيما بينها،

وعادةً ما تكون تجربة رائعة داخل التطبيق

and usually it's a great experience within an app

طالما أنك نوعاً ما تعرف القوائم وكل الخيارات التي يوفرها.

as long as you kind of know the menus and know all the options.

نعم، أود منك ذلك.

Yes, I would like you to.

Yes, please.

نعم، من فضلك.

Always good to be polite.

اللباقة جيدة دائماً.

(Laughter)

(ضحك)

And by having this unified language interface on top of tools,

وبتواجد واجهة اللغة الموحدة التي تتداخل مع الأدوات،

the AI is able to sort of take away all those details from you.

يمكن للذكاء الاصطناعي تولي كافة هذه التفاصيل بدلاً منكم.

So you don't have to be the one

حتى لا تتحملوا عبء

who spells out every single sort of little piece

شرح كل تفصيل صغير

of what's supposed to happen.

مما يجب أن يحدث.

And as I said, this is a live demo,

وكما قلت، هذا عرض توضيحي مباشر،

so sometimes the unexpected will happen to us.

لذا قد نواجه أحياناً أمورا غير متوقعة.

But let's take a look at the Instacart shopping list while we're at it.

ودعونا نلقي نظرة على قائمة التسوق في إنستاكارت بما أننا نتصفح التطبيق.

And you can see we sent a list of ingredients to Instacart.

يمكنكم ملاحظة أننا أرسلنا قائمة بالمكونات إلى إنستاكارت.

Here's everything you need.

إليكم كل ما تحتاجونه.

And the thing that's really interesting

والمثير للاهتمام حقاً

is that the traditional UI is still very valuable, right?

هو أن الواجهة التقليدية لا تزال قيمة جداً، أليس كذلك؟

If you look at this,

إذا نظرتم إلى هذا،

you still can click through it and sort of modify the actual quantities.

فلا يزال بإمكانكم النقر على الأشياء وتعديل الكميات الفعلية.

And that's something that I think shows

وهذا أمرٌ في رأي يدل

that they're not going away, traditional UIs.

على أن الواجهات التقليدية لن تختفي.

It's just we have a new, augmented way to build them.

ولكن أصبحت لدينا طريقة جديدة ومحسَّنة لبنائها.

And now we have a tweet that's been drafted for our review,

والآن لدينا تغريدة صِيغَت من أجل أن نراجعها،

which is also a very important thing.

وهو أمر مهم أيضاً.

We can click “run,” and there we are, we’re the manager, we’re able to inspect,

يمكننا النقر على “تشغيل“، وها نحن ذا، نحن من يدير، ولدينا القدرة على فحص

we're able to change the work of the AI if we want to.

وتغيير عمل الذكاء الاصطناعي إذا أردنا ذلك.

And so after this talk, you will be able to access this yourself.

ستتمكنون في ختام هذه المحادثة من الوصول إلى هذه الميزة بأنفسكم.

And there we go.

وها نحن ذا.

Cool.

رائع.

Thank you, everyone.

شكراً جميعاً.

(Applause)

(تصفيق)

So we’ll cut back to the slides.

لنعد إلى العرض.

Now, the important thing about how we build this,

الآن، لا يكمن الأمر المهم في كيفية بنائنا روبوت المحادثة

it's not just about building these tools.

لا يتعلق الأمر فقط ببناء هذه الأدوات.

It's about teaching the AI how to use them.

بل في تعليم الذكاء الاصطناعي كيفية استخدمها.

Like, what do we even want it to do

كالقيام بالأمر الذي نريده منه

when we ask these very high-level questions?

عندما نطرح أسئلة بمستوى عالي جدا؟

And to do this, we use an old idea.

وللقيام بهذا، نستخدم فكرة قديمة.

If you go back to Alan Turing's 1950 paper on the Turing test, he says,

يقول آلان تورنغ بورقته البحثية لسنة 1950، المتعلقة باختبار تورنغ،

you'll never program an answer to this.

لن تقوموا ببرمجة إجابة لهذا الاختبار.

Instead, you can learn it.

وبدلاً من ذلك، يمكنكم التعلم منه.

You could build a machine, like a human child,

يمكنكم بناء آلة، تشبه طفلا بشريا،

and then teach it through feedback.

وتعليمها من خلال الملاحظات المقدمة لها.

Have a human teacher who provides rewards and punishments

حيث يكافئ معلم بشري الآلة أو يعاقبها

as it tries things out and does things that are either good or bad.

حسب الأمور التي تجربها وتقوم بها بشكل صحيح أو خاطئ.

And this is exactly how we train ChatGPT.

وهذه بالضبط طريقة تدريبنا تشات جي بي تي.

It's a two-step process.

إنها عملية من خطوتين.

First, we produce what Turing would have called a child machine

أولاً، ننتج ما كان تورينغ ليسميه آلة طفل

through an unsupervised learning process.

من خلال عملية تعلم غير خاضعة للإشراف.

We just show it the whole world, the whole internet

نعرض عليها العالم بأكمله، والإنترنت بأكمله

and say, “Predict what comes next in text you’ve never seen before.”

ونقول لها ”توقعي ما سيأتي في نص لم تريه من قبل.“

And this process imbues it with all sorts of wonderful skills.

وهذه العملية تكسبها كل أنواع المهارات الرائعة.

For example, if you're shown a math problem,

فإذا عرضت عليكم مثلا مسألة رياضية،

the only way to actually complete that math problem,

فإن الطريقة الوحيدة لحلها

to say what comes next,

هي التساؤل عما سيأتي بعدها،

that green nine up there,

تلك التسعة الخضراء هناك،

is to actually solve the math problem.

هي في الحقيقة لحل تلك المسألة الرياضية.

But we actually have to do a second step, too,

لكن علينا في الواقع القيام بخطوة ثانية أيضاً،

which is to teach the AI what to do with those skills.

وهي تعليم الذكاء الاصطناعي كيفية استعمال هذه المهارات.

And for this, we provide feedback.

لذا، نقدم الملاحظات له.

We have the AI try out multiple things, give us multiple suggestions,

لقد جرّبنا الذكاء الاصطناعي في أمور عديدة، وقدم لنا اقتراحات متعددة،

and then a human rates them, says “This one’s better than that one.”

ويكون دور الإنسان تقييمها، فيقول “هذا أفضل من ذاك.”

And this reinforces not just the specific thing that the AI said,

حيث لا يعزز هذا الأمر ما ذكره الذكاء الاصطناعي بالتحديد فقط،

but very importantly, the whole process that the AI used to produce that answer.

بل والأهم من ذلك، العملية برمتها التي يستخدمها لإنتاج هذه الإجابة.

And this allows it to generalize.

ويسمح له هذا بالتعميم.

It allows it to teach, to sort of infer your intent

ويسمح له هذا بتعلم نوعا ما استنتاج أهدافكم

and apply it in scenarios that it hasn't seen before,

وتطبيقها في سيناريوهات غير مسبوقة،

that it hasn't received feedback.

ولم تتلقى أي ملاحظات.

Now, sometimes the things we have to teach the AI

أحيانا، تكون الأمور التي نعلمها للذكاء الاصطناعي

are not what you'd expect.

غير ما تتوقعونه.

For example, when we first showed GPT-4 to Khan Academy,

ومثلا، عندما عرضنا لأول مرة جي بي تي-4 على أكاديمية خان،

they said, "Wow, this is so great,

قالوا لنا: “مذهل، إنه رائع جداً،

We're going to be able to teach students wonderful things.

سوف نتمكن من تعليم الطلاب أشياء رائعة.

Only one problem, it doesn't double-check students' math.

ولكن المشكلة الوحيدة هي أنه لا يتحقق جيداً من رياضيات الطلاب.

If there's some bad math in there,

فإذا كانت هناك مسألة خاطئة،

it will happily pretend that one plus one equals three and run with it."

سيتظاهر بفرح أن واحد زائد واحد يساوي ثلاثة وسيكمل طريقه.”

So we had to collect some feedback data.

لذا كان علينا جمع بعض بيانات الملاحظات.

Sal Khan himself was very kind

وكان سال خان نفسه لطيفاً للغاية

and offered 20 hours of his own time to provide feedback to the machine

وخصص 20 ساعة من وقته الخاص لتقديم ملاحظات للآلة

alongside our team.

جنباً إلى جنب مع فريقنا.

And over the course of a couple of months we were able to teach the AI that,

وعلى مدى بضعة أشهر، تمكنا من تعليم الذكاء الاصطناعي أنه،

"Hey, you really should push back on humans

”اسمع، يجب عليك حقاً أن تعترض على البشر

in this specific kind of scenario."

في مثل هذه الحالة بالتحديد.“

And we've actually made lots and lots of improvements to the models this way.

وفي الواقع، قمنا بهذه الطريقة بالكثير من التحسينات على الأنماط.

And when you push that thumbs down in ChatGPT,

وعندما تنقرون على زر عدم الإعجاب في تشات جي بي تي،

that actually is kind of like sending up a bat signal to our team to say,

فإن ذلك في الواقع يشبه إرسال إشارة إلى فريقنا للقول،

“Here’s an area of weakness where you should gather feedback.”

”هذه منطقة ضعف حيث يجب عليكم جمع الملاحظات“

And so when you do that,

وهكذا، عند قيامكم بذلك،

that's one way that we really listen to our users

فهذه إحدى الطرق التي نستمع بها حقا إلى مستخدمينا

and make sure we're building something that's more useful for everyone.

ونضمن بها بناء شيء يكون أكثر فائدة للجميع.

Now, providing high-quality feedback is a hard thing.

وتقديم ملاحظات عالية الجودة أمر صعب.

If you think about asking a kid to clean their room,

إذا فكرتم في أن تطلبوا من طفل تنظيف غرفته،

if all you're doing is inspecting the floor,

فإذا كان كل ما تفعلونه هو فحص الأرضية،

you don't know if you're just teaching them to stuff all the toys in the closet.

فلن تعرفوا ما إذا كنتم تعلمونهم ركم الألعاب في الخزانة فقط.

This is a nice DALL-E-generated image, by the way.

بالمناسبة، هذه صورة جميلة أنشأها دال-إي.

And the same sort of reasoning applies to AI.

وينطبق نفس المنطق على الذكاء الاصطناعي.

As we move to harder tasks,

ومع تقدمنا نحو المهام الأكثر صعوبة،

we will have to scale our ability to provide high-quality feedback.

سيتعين علينا توسيع قدرتنا على تقديم ملاحظات عالية الجودة.

But for this, the AI itself is happy to help.

ومن أجل ذلك، حتى الذكاء الاصطناعي سعيد بتقديم المساعدة.

It's happy to help us provide even better feedback

إنه سعيد بمساعدتنا في تقديم ملاحظات أفضل

and to scale our ability to supervise the machine as time goes on.

وتوسيع قدرتنا الإشرافية على الآلة مع مرور الوقت.

And let me show you what I mean.

واسمحوا لي أن أوضح لكم ما أعنيه.

For example, you can ask GPT-4 a question like this,

فمثلا، يمكنكم أن تطرحوا على جي بي تي-4 سؤالا من هذا القبيل،

of how much time passed between these two foundational blogs

عن مقدار الوقت الذي مر ما بين هاتين المدونتين التأسيسيتين

on unsupervised learning

حول التعلم غير الخاضع للإشراف

and learning from human feedback.

والتعلم من الملاحظات البشرية.

And the model says two months passed.

ويقول النموذج إنه مر شهرين.

But is it true?

ولكن هل هذا صحيح؟

Like, these models are not 100-percent reliable,

مثلاً، هذه النماذج ليست موثوقة بنسبة 100%،

although they’re getting better every time we provide some feedback.

على الرغم من أنها تتحسن في كل مرة قدمنا لها بعض الملاحظات.

But we can actually use the AI to fact-check.

ولكن يمكننا استخدام الذكاء الاصطناعي للتأكد من الحقائق.

And it can actually check its own work.

الحقيقة أنه يمكنه التحقق من عمله.

You can say, fact-check this for me.

يمكنكم أن تسألوه ”افحص لي هذه الحقيقة.“

Now, in this case, I've actually given the AI a new tool.

الواقع أنني زودت، في هذه الحالة، الذكاء الاصطناعي بأداة جديدة.

This one is a browsing tool

هذه الأداة هي أداة تصفح

where the model can issue search queries and click into web pages.

حيث يمكن للنموذج القيام بعمليات البحث والنقر على المواقع الإلكترونية.

And it actually writes out its whole chain of thought as it does it.

ويكتب في الواقع جميع سلسلة أفكاره أثناء قيامه بذلك.

It says, I’m just going to search for this and it actually does the search.

ويقول “سأبحث عن هذا الأمر” وهو فعلاً يقوم بالبحث.

It then it finds the publication date and the search results.

ومن ثم يعثر على تاريخ النشر ونتائج البحث.

It then is issuing another search query.

ثم يقوم ببحث آخر.

It's going to click into the blog post.

وسينقر على مقالة المدونة.

And all of this you could do, but it’s a very tedious task.

يمكنكم القيام بكل هذا، ولكنها مهمة شاقة للغاية.

It's not a thing that humans really want to do.

فهذا ليس أمراً يرغب البشر حقاً في القيام به.

It's much more fun to be in the driver's seat,

الجلوس في مقعد السائق أكثر متعة،

to be in this manager's position where you can, if you want,

أن تكونوا في موقع المدير حيث يمكنكم، إذا أردتم، التحقق من العمل ثلاث مرات.

triple-check the work.

And out come citations

فتظهر النتائج

so you can actually go

لتتمكنوا بالمواصلة فعلا

and very easily verify any piece of this whole chain of reasoning.

والتحقق بسهولة جداً من أي جزء من سلسلة التفكير المنطقي.

And it actually turns out two months was wrong.

واتضح بالفعل أن فترة الشهرين لم تكن صحيحة.

Two months and one week,

بل شهرين وأسبوع واحد،

that was correct.

كانت هي الفترة الصحيحة.

(Applause)

(تصفيق)

And we'll cut back to the side.

وسنعود إلى العرض.

And so thing that's so interesting to me about this whole process

والشيء الذي يثير اهتمامي في هذه العملية بأكملها

is that it’s this many-step collaboration between a human and an AI.

هو أنه يعتبر تعاوناً متعدد الخطوات بين الإنسان والذكاء الاصطناعي.

Because a human, using this fact-checking tool

لأن استخدام الإنسان لأداة التأكد من الحقائق

is doing it in order to produce data

تقوم بذلك لإنتاج البيانات

for another AI to become more useful to a human.

لذكاء اصطناعي آخر كي يصبح أكثر فائدة للإنسان.

And I think this really shows the shape of something

وأعتقد أن هذا يقدم لنا شيئا

that we should expect to be much more common in the future,

يجب أن نتوقع أنه سيكون أكثر شيوعاً في المستقبل،

where we have humans and machines kind of very carefully

حيث سيكون لدينا بشر وآلات صممت بعناية

and delicately designed in how they fit into a problem

ودقة فيما يخص كيفية ملاءمتها لمشكلة معينة

and how we want to solve that problem.

والطريقة التي نريد أن تحل بها.

We make sure that the humans are providing the management, the oversight,

نحرص على أن تظل مقاليد الإدارة والإشراف وتقديم الملاحظات،

the feedback,

بين يدي الإنسان،

and the machines are operating in a way that's inspectable

وأن تعمل الآلات بطريقة قابلة للتفتيش

and trustworthy.

وموثوقة.

And together we're able to actually create even more trustworthy machines.

نحن في الواقع قادرون معاً على خلق المزيد من الآلات الموثوقة.

And I think that over time, if we get this process right,

وأعتقد أنه بمرور الوقت، إذا نجحنا في تنفيد هذه العملية،

we will be able to solve impossible problems.

سنتمكن من حل مشاكل مستحيلة.

And to give you a sense of just how impossible I'm talking,

ولإعطائكم فكرة عن المستحيل الذي أتحدث عنه،

I think we're going to be able to rethink almost every aspect

أعتقد أننا سنكون قادرين على إعادة التفكير في كل جانب تقريباً

of how we interact with computers.

من جوانب تفاعلنا مع الحواسيب.

For example, think about spreadsheets.

لنأخذ جداول البيانات على سبيل المثال.

They've been around in some form since, we'll say, 40 years ago with VisiCalc.

هي موجودة بشكل ما منذ حوالي 40 سنة مع برنامج فيزيكالك.

I don't think they've really changed that much in that time.

ولا أعتقد أنها تغيرت كثيراً خلال هذه المدة.

And here is a specific spreadsheet of all the AI papers on the arXiv

وهذا جدول بيانات بكل ما نشر على أرخايف من أوراق بحثية حول الذكاء الاصطناعي

for the past 30 years.

خلال 30 سنة الماضية.

There's about 167,000 of them.

ويتضمن حوالي 167.000 ورقة بحثية.

And you can see there the data right here.

ويمكنكم رؤية البيانات هنا.

But let me show you the ChatGPT take on how to analyze a data set like this.

ولكن دعوني أوضح لكم طريقة تحليل تشات جي بي تي مجموعة بيانات مثل هذه.

So we can give ChatGPT access to yet another tool,

يمكننا منحه إذاً الوصول إلى أداة أخرى،

this one a Python interpreter,

وهي مترجم للغة البرمجة بايثون،

so it’s able to run code, just like a data scientist would.

حتى يتمكن من تشغيل البرنامج، تماماً مثل ما يفعله خبراء البيانات.

And so you can just literally upload a file

وبالتالي يمكنكم ببساطة تحميل ملف

and ask questions about it.

وطرح الأسئلة حوله.

And very helpfully, you know, it knows the name of the file and it's like,

وبطريقة مفيدة للغاية يعرف اسم الملف وكأنه يقول:

"Oh, this is CSV," comma-separated value file,

“هذا ملف ملف قيم مفصولة بفواصل“،

"I'll parse it for you."

“سأقوم بتحليله لك“.

The only information here is the name of the file,

المعلومة الوحيدة هنا هي اسم الملف،

the column names like you saw and then the actual data.

وأسماء الأعمدة كما رأيتم ومن ثم البيانات الفعلية.

And from that it's able to infer what these columns actually mean.

وانطلاقا من ذلك يتمكن من استنتاج ما تعنيه هذه الأعمدة في الواقع.

Like, that semantic information wasn't in there.

لم تكن هناك معلومات دلالية في الملف.

It has to sort of, put together its world knowledge of knowing that,

كان عليه نوعا ما، تجميع معرفته العامة لمعرفة أن

“Oh yeah, arXiv is a site that people submit papers

أرخايف هو موقع لنشرالأوراق البحثية

and therefore that's what these things are and that these are integer values

وبالتالي تحديد ماهية هذه الأشياء وأنها قيم صحيحة

and so therefore it's a number of authors in the paper,"

وبالتالي أنها عدد المؤلفين في الورقة البحثية،”

like all of that, that’s work for a human to do,

كل ذلك، هو عمل يتعين على الإنسان فعله،

and the AI is happy to help with it.

ويساعد الذكاء الاصطناعي بفرح في ذلك.

Now I don't even know what I want to ask.

حسنا، لقد نفدت مني الأسئلة.

So fortunately, you can ask the machine,

ولحسن الحظ، يمكنكم أن تسألوا الجهاز:

"Can you make some exploratory graphs?"

“هلَّا أعددت بعض الرسومات الاستكشافية؟”

And once again, this is a super high-level instruction with lots of intent behind it.

ومجدداً، هذه تعليمات مستوى عالي جدا وتنطوي على الكثير من الأهداف.

But I don't even know what I want.

ولكنني لا أعلم حتى ما أريده.

And the AI kind of has to infer what I might be interested in.

ويجب على الذكاء الاصطناعي استنتاج ما قد يثير اهتمامي.

And so it comes up with some good ideas, I think.

أعتقد، أنه يقترح عليَّ بعض الأفكار الجيدة.

So a histogram of the number of authors per paper,

مدرج تكراري لعدد المؤلفين في كل ورقة بحثية،

time series of papers per year, word cloud of the paper titles.

وتسلسلها الزمني في السنة وسحابة كلمات لعناوينها.

All of that, I think, will be pretty interesting to see.

سيكون من المثير مشاهدة نتيجة كل ذلك.

And the great thing is, it can actually do it.

والرائع في الأمر، أنه يمكنه القيام بذلك فعلا.

Here we go, a nice bell curve.

ها نحن ذا، منحنى جرسي رائع.

You see that three is kind of the most common.

وكما ترون أن الرقم ثلاثة هو الأكثر شيوعاً.

It's going to then make this nice plot of the papers per year.

وسينشئ بعد ذلك هذا المخطط الرائع للأوراق البحثية في السنة.

Something crazy is happening in 2023, though.

يبدو أن أمرًا مجنوناً يحدث في سنة 2023.

Looks like we were on an exponential and it dropped off the cliff.

يبدو أننا كنا في منحنى تصاعدي ثم تقهقرنا بشكل حاد.

What could be going on there?

ما الذي قد يحدث هناك؟

By the way, all this is Python code, you can inspect.

وبالمناسبة، هذا كله لغة برمجة بايثون يمكنم التأكد منها.

And then we'll see word cloud.

ومن ثم سنرى سحابة كلمات.

So you can see all these wonderful things that appear in these titles.

ويمكنكم رؤية كل هذه الأشياء الرائعة التي تظهر في هذه العناوين.

But I'm pretty unhappy about this 2023 thing.

لكنني غير سعيد بسبب هذا الأمر في 2023.

It makes this year look really bad.

فهو يجعل هذه السنة تبدو جد سيئة.

Of course, the problem is that the year is not over.

وبالطبع، المشكلة هي أن السنة لم تنته بعد.

So I'm going to push back on the machine.

لذا سأتحدى الآلة.

[Waitttt that's not fair!!!

[انتظر لحظة، هذا غير عادل!!!

2023 isn't over.

لم تنته 2023.

What percentage of papers in 2022 were even posted by April 13?]

ما هي نسبة الأوراق البحثية المنشورة في 2022 قبل 13 أبريل؟]

So April 13 was the cut-off date I believe.

أعتقد أن 13 أبريل كان التاريخ النهائي.

Can you use that to make a fair projection?

[هل يمكنكم استخدام هذا الأمر لتقديم توقعات عادلة؟]

So we'll see, this is the kind of ambitious one.

وسنرى ذلك، إنها عقلية طموحة.

(Laughter)

(ضحك)

So you know,

كما تعلمون،

again, I feel like there was more I wanted out of the machine here.

مجددا، أشعر أنني أنتظر المزيد من هذه الآلة.

I really wanted it to notice this thing,

وأردت حقاً أن تلاحظ هذا الأمر،

maybe it's a little bit of an overreach for it

ربما كان ذلك تطلعًا زائدًا عن حده بالنسبة لها

to have sort of, inferred magically that this is what I wanted.

لتفهم بطريقة سحرية أن هذا ما أردته.

But I inject my intent,

لكني سأطلعها على هدفي،

I provide this additional piece of, you know, guidance.

سأقدم لها هذه الإرشادات الإضافية.

And under the hood,

ووراء الستار،

the AI is just writing code again, so if you want to inspect what it's doing,

يكتب الذكاء الاصطناعي الترميز مرة أخرى، لذا إذا أردتم ان تتفقدوا ما يفعله،

it's very possible.

فهذا ممكن جداً.

And now, it does the correct projection.

والآن، يقدم التوقع الصحيح.

(Applause)

(تصفيق)

If you noticed, it even updates the title.

وإذا لاحظتم، حتى أنه راجع العنوان.

I didn't ask for that, but it know what I want.

لم أطلب ذلك، لكنه يعلم ما أريد.

Now we'll cut back to the slide again.

الآن سنعود إلى العرض مجددا.

This slide shows a parable of how I think we ...

يُظهر هذا العرض مثالاً على طريقة تفكيري...

A vision of how we may end up using this technology in the future.

وهي رؤية حول الطريقة التي قد نستخدم بها هذه التقنية مستقبلا.

A person brought his very sick dog to the vet,

أحضر شخص كلبه المريض جدًا إلى الطبيب البيطري،

and the veterinarian made a bad call to say, “Let’s just wait and see.”

واتخذ البيطري قرارا خاطئا بقوله: “لننتظر ونرى.”

And the dog would not be here today had he listened.

ولم يكن الكلب ليكون بيننا اليوم لو استمع إليه مالكه.

In the meanwhile, he provided the blood test,

في غضون ذلك، قام بتقديم تحليل الدم،

like, the full medical records, to GPT-4,

والسجلات الطبية الكاملة لتشات جي بي تي-4،

which said, "I am not a vet, you need to talk to a professional,

والذي أخبره: “أنا لست طبيبًا بيطريًا، عليك التحدث إلى متخصص،

here are some hypotheses."

إليك بعض الفرضيات.“

He brought that information to a second vet

وقدم هذه المعلومات لبيطري آخر

who used it to save the dog's life.

فاستخدمها لإنقاذ حياة الكلب.

Now, these systems, they're not perfect.

هذه الأنظمة ليست مثالية.

You cannot overly rely on them.

ولا يمكن الاعتماد عليها بشكل كبير.

But this story, I think, shows

لكن، أظن، أن هذه القصة تبين

that a human with a medical professional

أن الإنسان بمساعدة طبيب متخصص

and with ChatGPT as a brainstorming partner

وتشات جي بي تي كشريك لتبادل الأفكار

was able to achieve an outcome that would not have happened otherwise.

تمكن من تحقيق نتائج لم يكن ليحققها بطريقة أخرى.

I think this is something we should all reflect on,

أعتقد أنه أمر يستدعي أن نفكر فيه جميعا،

think about as we consider how to integrate these systems

أن نفكر فيه بطريقة لدمج هذه النظم

into our world.

في عالمنا.

And one thing I believe really deeply,

وهناك أمر واحد أؤمن به بقوة،

is that getting AI right is going to require participation from everyone.

وهو تقديم الذكاء الاصطناعي بالشكل الصحيح يتطلب مشاركة الجميع.

And that's for deciding how we want it to slot in,

وذلك لتحديد الطريقة التي سندمجه بها في حياتنا،

that's for setting the rules of the road,

والقواعد التي سنسير عليها،

for what an AI will and won't do.

فيما يمكن للذكاء الاصطناعي فعله أو لا.

And if there's one thing to take away from this talk,

وإذا كان هناك شيء واحد يمكن استخلاصه من هذه المحادثة،

it's that this technology just looks different.

هو أن هذه التقنية تبدو مختلفة تمامًا.

Just different from anything people had anticipated.

مختلفة تمامًا عن أي شيء توقعه الناس.

And so we all have to become literate.

لذا، علينا جميعًا أن نتعرف عليها.

And that's, honestly, one of the reasons we released ChatGPT.

وهذا، بصراحة، أحد الأسباب التي دفعتنا لإصدار تشات جي بي تي.

Together, I believe that we can achieve the OpenAI mission

أعتقد أنه بالتعاون، يمكننا تحقيق مهمة أوبن أيه آي

of ensuring that artificial general intelligence

في ضمان استفادة جميع البشر

benefits all of humanity.

من الذكاء الاصطناعي.

Thank you.

شكراً جزيلاً لكم.

(Applause)

(تصفيق)

(Applause ends)

(ينتهي التصفيق)

Chris Anderson: Greg.

كريس أندرسون: كريغ.

Wow.

يا للروعة

I mean ...

أعني...

I suspect that within every mind out here

أعتقد أن كل واحد حاضر هنا

there's a feeling of reeling.

تزعزت لديه بعض التصورات.

Like, I suspect that a very large number of people viewing this,

وأعتقد أن العديد من الناس يشاهدون هذا،

you look at that and you think, “Oh my goodness,

تنظرون إلى هذا وتتساءلون، “يا إلهي،

pretty much every single thing about the way I work, I need to rethink."

يجب عليا إعادة التفكير في كل شيء حول طريقة عملي.”

Like, there's just new possibilities there.

هناك إمكانيات جديدة.

Am I right?

هل أنا محق؟

Who thinks that they're having to rethink the way that we do things?

من يعتقد بأنه عليه إعادة التفكير في طريقة فعله للأشياء؟

Yeah, I mean, it's amazing,

نعم، أقصد، هذا مدهش،

but it's also really scary.

لكنه جد مخيف أيضا.

So let's talk, Greg, let's talk.

لذا دعونا نتحدث مع كريغ.

I mean, I guess my first question actually is just

أقصد، أعتقد أن أول سؤال سأطرح عليك هو،

how the hell have you done this?

بالله عليك كيف فعلت هذا؟

(Laughter)

(ضحك)

OpenAI has a few hundred employees.

توظف أوبن إي آي بضع مئات من الموظفين.

Google has thousands of employees working on artificial intelligence.

يعمل الآلاف في غوغل على الذكاء الاصطناعي.

Why is it you who's come up with this technology

لما كنت أنت من جاء بهذه التقنية

that shocked the world?

التي صدمة العالم؟

Greg Brockman: I mean, the truth is,

كريغ بروكمان: الحقيقة،

we're all building on shoulders of giants, right, there's no question.

جميعنا يكمل مسيرة الشركات الضخمة، أليس كذلك، هذا لا يناقش.

If you look at the compute progress,

إذا نظرتم للتقدم المحرز في الحوسبة

the algorithmic progress, the data progress,

والخوارزميات والبيانات،

all of those are really industry-wide.

لقد انتشرت جميعا على نطاق واسع.

But I think within OpenAI,

لكن أعتقد أننا في شركتنا،

we made a lot of very deliberate choices from the early days.

قمنا بالكثير من الاختيارات المقصودة منذ الأيام الأولى.

And the first one was just to confront reality as it lays.

وأول اختيار كان مواجهة الواقع كما هو.

And that we just thought really hard about like:

وقد فكرنا في أسئلة من قبيل:

What is it going to take to make progress here?

ما الذي يجب فعله لإحراز التقدم؟

We tried a lot of things that didn't work, so you only see the things that did.

لقد جربنا أمورا كثيرا لم تنجح، لذا ركزنا على تلك التي نجحت قفط.

And I think that the most important thing has been to get teams of people

وأعتقد أن أهم شيء هو إنشاء فرق عمل من أشخاص

who are very different from each other to work together harmoniously.

يختلفون عن بعضهم للعمل معا بانسجام.

CA: Can we have the water, by the way, just brought here?

كريس: هلا أحضرتم لنا بعض الماء، يمكنكم وضعه هنا فقط؟

I think we're going to need it, it's a dry-mouth topic.

أعتقد أننا سنحتاجه، فهذا موضوع سيجفف حلقنا.

But isn't there something also just about the fact

لكن أليس هناك شيء ما يتعلق أيضا بحقيقة

that you saw something in these language models

أنك رأيت شيء ما في نماذج اللغة هذه

that meant that if you continue to invest in them and grow them,

أوحى لك بمواصلة الاستثمار فيها وتنميتها،

that something at some point might emerge?

لأنه في نهاية المطاف سيظهر أمر ما؟

GB: Yes.

كريغ: نعم.

And I think that, I mean, honestly,

أعتقد بكل صراحة

I think the story there is pretty illustrative, right?

أنها قصة معبرة للغاية، أليست كذلك؟

I think that high level, deep learning,

أعتقد أن التعلم العميق من المستوى العالي،

like we always knew that was what we wanted to be,

لقد عرفنا دائماً أن هذا ما نصبو إليه،

was a deep learning lab, and exactly how to do it?

هو مختبر للتعلم العميق، وطريقة دقيقة لتنفيذه؟

I think that in the early days, we didn't know.

أعتقد أننا لم نعلم ذلك في البداية.

We tried a lot of things,

لقد جربنا أموراً كثيرة،

and one person was working on training a model

ونجح شخص كان يعمل على نمودج تدريبي

to predict the next character in Amazon reviews,

لتوقع الحرف التالي في تعليقات أمازون،

and he got a result where -- this is a syntactic process,

فحصل على نتيجة --هذه عملية تركيبية،

you expect, you know, the model will predict where the commas go,

أنت تتوقع أن النموذج سيتوقع مكان الفواصل في الجملة،

where the nouns and verbs are.

ومكان الأسماء والأفعال فيها.

But he actually got a state-of-the-art sentiment analysis classifier out of it.

لكنه حصل في الواقع على برنامج مدهش لتحليل المشاعر.

This model could tell you if a review was positive or negative.

يستطيع هذا النموذج أن يخبركم إذا كان التعليق إيجابيا أو سلبيا.

I mean, today we are just like, come on, anyone can do that.

أقصد أننا نعتقد اليوم بأن الجميع بإمكانه فعل ذلك.

But this was the first time that you saw this emergence,

لكن كانت هذه أول مرة ترون فيها هذا الانبثاق،

this sort of semantics that emerged from this underlying syntactic process.

هذا النوع من الدلالات اللفظية المنبثقة من هذه العملية التركيبية الأساسية.

And there we knew, you've got to scale this thing,

لندرك بعدها، بأنه يجب توسيع نطاق هذا الأمر،

you've got to see where it goes.

ونستشرف الطريق أمامنا.

CA: So I think this helps explain

كريس: أعتقد أن هذا يساعد في تفسير

the riddle that baffles everyone looking at this,

الأحجية المحيرة لكل من يشاهد هذا،

because these things are described as prediction machines.

لأن هذه الأمور توصف كآلات تنبؤ.

And yet, what we're seeing out of them feels ...

ومع ذلك، فإن ما نراه منها يبدو...

it just feels impossible that that could come from a prediction machine.

يبدو من المستحيل أن يصدر عن آلة تنبؤ.

Just the stuff you showed us just now.

بالنسبة لما عرضته علينا للتو.

And the key idea of emergence is that when you get more of a thing,

والفكرة الرئيسية للانبثاق هو ما تحصلون عليه من شيء ما،

suddenly different things emerge.

فتظهر فجأة أمور مختلفة.

It happens all the time, ant colonies, single ants run around,

هذا يحدث طوال الوقت، فمن نملة واحدة دائمة الحركة،

when you bring enough of them together,

ستحصل بعد تجميع ما يكفي منها معا،

you get these ant colonies that show completely emergent, different behavior.

على تلك المستعمرات التي يظهر فيها سلوك مختلف تماما.

Or a city where a few houses together, it's just houses together.

أو مدينة حيث بضع منازل مجتمعة، هي مجرد منازل مجتمعة.

But as you grow the number of houses,

لكن بازدياد عددها،

things emerge, like suburbs and cultural centers and traffic jams.

تبدأ بعض الأمور بالظهور، كالضواحي والمراكز الثقافية والاختناق المروري.

Give me one moment for you when you saw just something pop

أخبرني قليلا عنك عندما رأيت شيء ما يخرج للوجود

that just blew your mind

أذهلك

that you just did not see coming.

لم تتوقع حدوثه.

GB: Yeah, well,

كريغ: نعم، حسنا،

so you can try this in ChatGPT, if you add 40-digit numbers --

يمكنك محاولة هذا في تشات جي بي تي، إذا أضفت 40 رقما --

CA: 40-digit?

كريس: 40 رقما؟

GB: 40-digit numbers, the model will do it,

كريغ: 40 رقما، فإن النموذج سيفعل ذلك،

which means it's really learned an internal circuit for how to do it.

مما يعني أنه يتعلم فعلا مسارا داخليا لكيفية القيام بذلك.

And the really interesting thing is actually,

والأمر المثير للاهتمام في الواقع

if you have it add like a 40-digit number plus a 35-digit number,

هو أنه إذا أضفتم مثلا 40 رقما على 35 رقما،

it'll often get it wrong.

فإنه سيخطئ في العادة.

And so you can see that it's really learning the process,

وبالتالي يمكنكم ملاحظة أنه يتعلم حقا العملية،

but it hasn't fully generalized, right?

لكنه لا يعممها بالكامل، صحيح؟

It's like you can't memorize the 40-digit addition table,

إنه كعدم قدرتكم على تذكر جدول جمع العدد 40،

that's more atoms than there are in the universe.

هذه ذرات أكثر مما يوجد في الكون.

So it had to have learned something general,

وبالتالي، فلابد من أنه تعلم شيئا ما عام،

but that it hasn't really fully yet learned that,

لكنه لم يتعلم ذلك بالكامل بعد،

Oh, I can sort of generalize this to adding arbitrary numbers

ويمكنني تعميم هذا بإضافة أعداد عشوائية

of arbitrary lengths.

بأطوال عشوائية.

CA: So what's happened here

كريس: حسنا، ما حدث هنا

is that you've allowed it to scale up

هو أنك سمحت له بتوسيع نطاقه

and look at an incredible number of pieces of text.

والنظر إلى عدد لا يصدق من أجزاء نص.

And it is learning things

وهو يتعلم أشياء

that you didn't know that it was going to be capable of learning.

لم تكن تعلم بأنه سيتمكن من تعلمها.

GB Well, yeah, and it’s more nuanced, too.

كريغ نعم، لكن الأمر أكثر تباينا أيضا.

So one science that we’re starting to really get good at

لذا، فإن إحدى العلوم التي بدأنا نفهمها بشكل أفضل

is predicting some of these emergent capabilities.

هو توقع بعض هذه القدرات الناشئة.

And to do that actually,

وللقيام بذلك بالفعل،

one of the things I think is very undersung in this field

أعقتد أن أحد الأمور التي لا تقدر بما يكفي في هذا المجال

is sort of engineering quality.

هي هندسة الجودة.

Like, we had to rebuild our entire stack.

لقد كان علينا بناء كل شيء.

When you think about building a rocket,

عند تصوركم لبناء صاروخ،

every tolerance has to be incredibly tiny.

فإن الخطأ غير مقبول.

Same is true in machine learning.

ونفس الشيء في آلة التعلم.

You have to get every single piece of the stack engineered properly,

يجب أن تتكامل كل قطعة مع الأخرى بشكل سليم،

and then you can start doing these predictions.

وبعدها يمكنكم بدأ عمليات التنبؤ.

There are all these incredibly smooth scaling curves.

هناك كل هذه المنحنيات شديدة الدقة بشكل مذهل.

They tell you something deeply fundamental about intelligence.

والتي تخبركم بشيء أساسي عميق حول الذكاء.

If you look at our GPT-4 blog post,

إذا قرأتم منشورنا بمدونة جي بي تي-4، يمكنكم الاطلاع على هذه المنحنيات.

you can see all of these curves in there.

And now we're starting to be able to predict.

وأصبح بإمكاننا حاليا التنبؤ.

So we were able to predict, for example, the performance on coding problems.

حيث يمكننا التنبؤ، مثلا، بمستوى الفعالية حول مشاكل الترميز.

We basically look at some models

نحن نفحص بعض النماذج

that are 10,000 times or 1,000 times smaller.

أصغر 10.000 أو 1.000 مرة.

And so there's something about this that is actually smooth scaling,

هناك شيء ما في هذا الأمر يسمح بتوسيع النطاق بسهولة،

even though it's still early days.

بالرغم من أنه ما زال في البدايات.

CA: So here is, one of the big fears then,

كريس: حسنا، هذه إحدى أكبر المخاوف،

that arises from this.

التي تبرز من هذا الأمر.

If it’s fundamental to what’s happening here,

إذا كان من الأساسي فيما يحدث هنا،

that as you scale up,

أنكم كلما وسعتم النطاق،

things emerge that

هناك أمور تبرز

you can maybe predict in some level of confidence,

يمكنكم التنبؤ ببعض الثقة،

but it's capable of surprising you.

لكنها قد تفاجئكم.

Why isn't there just a huge risk of something truly terrible emerging?

ما هي المخاطرة بأن يظهر شيء فظيع؟

GB: Well, I think all of these are questions of degree

كريغ: أعتقد بأن كل شيء يتعلق بالدرجة

and scale and timing.

والنطاق والتوقيت.

And I think one thing people miss, too,

وإحدى الأمور التي يغفل عنها الناس أيضا،

is sort of the integration with the world is also this incredibly emergent,

أن الاندماج مع العالم هو أيضا انبثاق مدهش،

sort of, very powerful thing too.

وأمر جد قوي.

And so that's one of the reasons that we think it's so important

وهذه إحدى الأسباب التي نعتبرها مهمة

to deploy incrementally.

للتنفيذ التدريجي.

And so I think that what we kind of see right now, if you look at this talk,

أعتقد بأن ما تحدثنا عنه في هذه المحادثة منذ قليل

a lot of what I focus on is providing really high-quality feedback.

وما ركزت عليه يقدم صورة إيجابية كثيرا.

Today, the tasks that we do, you can inspect them, right?

يمكنكم اليوم مراقبة ما نقوم به، صحيح؟

It's very easy to look at that math problem and be like, no, no, no,

يمكن بكل سهولة فحص هذه المسألة الرياضية وتقول للآلة لا، لا، لا،

machine, seven was the correct answer.

سبعة هي الإجابة الصحيحة.

But even summarizing a book, like, that's a hard thing to supervise.

لكن سيكون الأمر أصعب عند تلخيص كتاب.

Like, how do you know if this book summary is any good?

كيف ستعلم مدى جودة تلخيص هذا الكتاب؟

You have to read the whole book.

سيكون عليك قراءة الكتاب بالكامل.

No one wants to do that.

لا أحد يريد القيام بذلك.

(Laughter)

(ضحك)

And so I think that the important thing will be that we take this step by step.

وأعتقد بأن أهم شيء سيكون هو التقدم خطوة تلو الأخرى.

And that we say, OK, as we move on to book summaries,

وبالتالي سنقوم، خلال تقدمنا في عملية تلخيص الكتاب،

we have to supervise this task properly.

بمراقبة هذه المهمة بشكل سليم.

We have to build up a track record with these machines

علينا الاحتفاظ بأثر مسجل لما تقوم به الآلات

that they're able to actually carry out our intent.

للتحقق من قدرتها على تحقيق أهدافنا.

And I think we're going to have to produce even better, more efficient,

وأعتقد بأنه علينا إيجاد طرق أفضل وأكثر فعالية،

more reliable ways of scaling this,

ومصداقية لتوسيع نطاق هذا الأمر،

sort of like making the machine be aligned with you.

كجعل الآلة تتوافق معكم.

CA: So we're going to hear later in this session,

كريس: سنستمع لاحقا في هذه الجلسة،

there are critics who say that,

هناك منتقدين يقولون بأن

you know, there's no real understanding inside,

التلخيص لا يتضمن فهم حقيقي،

the system is going to always --

سيقوم النظام دائما --

we're never going to know that it's not generating errors,

لن نعرف أبدا ما إذا كانت الآلة تنتج أخطاء،

that it doesn't have common sense and so forth.

وأنها لا تملك حساً سليما وما إلى ذلك.

Is it your belief, Greg, that it is true at any one moment,

كريغ، هل أمنت في وقت ما،

but that the expansion of the scale and the human feedback

أن توسيع النطاق والملاحظات البشرية

that you talked about is basically going to take it on that journey

التي ذكرتها ستأخذ الأمر في هذا المسار

of actually getting to things like truth and wisdom and so forth,

للحصول فعلياً على أشياء كالحقيقة والحكمة وغير ذلك،

with a high degree of confidence.

بمستوى عال من الثقة.

Can you be sure of that?

هل يمكنك التأكد من ذلك؟

GB: Yeah, well, I think that the OpenAI, I mean, the short answer is yes,

كريغ: الجواب المختصر هو نعم،

I believe that is where we're headed.

أعتقد بأن هذه هي وجهتنا.

And I think that the OpenAI approach here has always been just like,

وأعتقد بأن منهجية أوبن أي آي كانت دائما

let reality hit you in the face, right?

هي دع الواقع يصدمك، أليس كذلك؟

It's like this field is the field of broken promises,

وكأنه مجال للوعود الكاذبة،

of all these experts saying X is going to happen, Y is how it works.

لخبراء يتوقعون حدوث أمر ما وتفسير كيفية عمل آخر.

People have been saying neural nets aren't going to work for 70 years.

البعض يقول منذ 70 سنة بأن الشبكات العصبونية لن تنجح.

They haven't been right yet.

وهذا صحيح.

They might be right maybe 70 years plus one

ربما هم على حق وربما تحتاج لسنة أو أكثر بعد 70 سنة.

or something like that is what you need.

But I think that our approach has always been,

لكن أعتقد بأن منهجيتنا كانت دائما،

you've got to push to the limits of this technology

دفع قدرات هذه التقنية إلى أقصى حد ممكن

to really see it in action,

للوقوف بحق على إمكانياتها،

because that tells you then, oh, here's how we can move on to a new paradigm.

لأن هذا ما سيجعلكم تدركون بأنه عليكم الانتقال إلى نموذج جديد.

And we just haven't exhausted the fruit here.

ونحن لم نستنفد كل الإمكانيات بعد.

CA: I mean, it's quite a controversial stance you've taken,

كريس: أنت تتخذ موقفا مثيرا للجدل،

that the right way to do this is to put it out there in public

باعتبارك أن الطريقة الصحيحة هي إتاحة هذه التقنية للعموم

and then harness all this, you know,

وبعدها الاستفادة من كل ذلك،

instead of just your team giving feedback,

فبدلا من الاكتفاء بملاحظات فريق عملك،

the world is now giving feedback.

العالم كله يقدم ملاحظاته الآن.

But ...

ولكن...

If, you know, bad things are going to emerge,

كما تعلم، ستظهر أمور سيئة،

it is out there.

إنها هناك بالخارج.

So, you know, the original story that I heard on OpenAI

كما تعلم، القصة الأصلية التي سمعت عن شركة أوبن أي آي

when you were founded as a nonprofit,

أنها أنشئت كمنظمة غير ربحية،

well you were there as the great sort of check on the big companies

حسنا، لقد كنت هناك لمراقبة الشركات الكبيرة

doing their unknown, possibly evil thing with AI.

وهي تستخدم الذكاء الاصطناعي بأعمالها غير المعروفة وربما الشريرة.

And you were going to build models that sort of, you know,

وأنك ستنشئ نماذج ستجعلها

somehow held them accountable

على نحو ما مسؤولة

and was capable of slowing the field down, if need be.

وقادر على تبطيء سرعة هذا المجال، عند الاقتضاء.

Or at least that's kind of what I heard.

أو على الأقل هذا ما سمعت.

And yet, what's happened, arguably, is the opposite.

ولكن يمكن القول أن ما حدث هو العكس.

That your release of GPT, especially ChatGPT,

أن إصداركم جي بي تي، وخاصة تشات جي بي تي،

sent such shockwaves through the tech world

تسبب في صدمات هزت عالم التقنية

that now Google and Meta and so forth are all scrambling to catch up.

حيث أن غوغل وميتا وغيرها الآن تتسابق للحاق بالركب.

And some of their criticisms have been,

وتقول في بعض انتقاداتها،

you are forcing us to put this out here without proper guardrails or we die.

أنكم تجبروننا على إتاحة هذه التقنية دون توفيرالحماية المناسبة أو سنموت.

You know, how do you, like,

كيف تريدون إثبات

make the case that what you have done is responsible here and not reckless.

أن ما قمتم به هو أمر مسؤول وغير متهور.

GB: Yeah, we think about these questions all the time.

كريغ: نعم، نفكر في هذا الأمر طوال الوقت.

Like, seriously all the time.

حرفيا طوال الوقت.

And I don't think we're always going to get it right.

ولا أعتقد بأننا سنحسن الفعل في كل شيء.

But one thing I think has been incredibly important,

ولكن أعتقد أنه كان هناك أمر واحد من الأهمية بما كان،

from the very beginning, when we were thinking

منذ البداية، عندما كنا في مرحلة التفكير

about how to build artificial general intelligence,

حول كيفية بناء ذكاء اصطناعي عام،

actually have it benefit all of humanity,

سيفيد كل البشرية،

like, how are you supposed to do that, right?

كيف يفترض بكم القيام بذلك، صحيح؟

And that default plan of being, well, you build in secret,

أنتم، في العادة، تضعون خطة بسرية

you get this super powerful thing,

وتحصلون على شيء قوي للغاية

and then you figure out the safety of it and then you push “go,”

وبعدها تحددون آليات حماياتها ومن ثم تضغطون على زر “أطلق،”

and you hope you got it right.

وتتمنون أنكم قمتم بما يجب.

I don't know how to execute that plan.

أنا لا أعرف كيف أنفذ هذه الخطة.

Maybe someone else does.

ربما يفعل ذلك شخص آخر.

But for me, that was always terrifying, it didn't feel right.

لكن بالنسبة لي، كان ذلك مرعبا دائما، لم يبدو الأمر صائبا.

And so I think that this alternative approach

ولذا أعتقد بأن هذه المنهاجية البديلة

is the only other path that I see,

هي الطريق الأخر الوحيد الذي أراه أمامي،

which is that you do let reality hit you in the face.

وهو دع الواقع يصدمك.

And I think you do give people time to give input.

وأعتقد بأنه يجب إتاحة الوقت للناس لتقديم مساهمتهم.

You do have, before these machines are perfect,

يجب علينا، قبل أن تصبح هذه الآلات مثالية

before they are super powerful, that you actually have the ability

وقبل أن تصبح قوية للغاية، أن تكون لديكم القدرة على

to see them in action.

مشاهدتها خلال عملها.

And we've seen it from GPT-3, right?

ولقد شاهدناه منذ جي بي تي-3، صحيح؟

GPT-3, we really were afraid

مع جي بي تي-3، كنا جد مرعوبين من أن أول شيء سيقوم به الناس

that the number one thing people were going to do with it

was generate misinformation, try to tip elections.

هو توليد معلومات خاطئة للتأثير على الانتخابات.

Instead, the number one thing was generating Viagra spam.

ولكن أول ما تم توليده هو البريد المزعج للفياغرا.

(Laughter)

(ضحك)

CA: So Viagra spam is bad, but there are things that are much worse.

كريس: البريد المزعج للفياغرا هو سيء، لكن هناك أمور أسوء.

Here's a thought experiment for you.

هذه تجربة فكرية أقدمها لك.

Suppose you're sitting in a room,

لنفترض أنك جالس في غرفة،

there's a box on the table.

وهناك صندوق على الطاولة.

You believe that in that box is something that,

وتعتقد بأن الصندوق يحتوي على شيء ما

there's a very strong chance it's something absolutely glorious

قد يكون في الغالب شيئا رائعا للغاية

that's going to give beautiful gifts to your family and to everyone.

سيمنحك هدايا جميلة لأسرتك وللجميع.

But there's actually also a one percent thing in the small print there

لكن هناك أيضا صوت ضعيف

that says: “Pandora.”

يقول لك: “باندورا.”

And there's a chance

وأن هناك احتمالية

that this actually could unleash unimaginable evils on the world.

أنه قد يطلق شرورا لا يمكن تخيلها في العالم.

Do you open that box?

هل ستفتح هذا الصندوق؟

GB: Well, so, absolutely not.

كريغ: بالتأكيد لا.

I think you don't do it that way.

لا أعتقد بأنكم تقومون بالأمر بهذا الشكل.

And honestly, like, I'll tell you a story that I haven't actually told before,

الصراحة، سأخبرك قصة لم أخبر بها أحد من قبل،

which is that shortly after we started OpenAI,

أتذكر بعد وقت قصير من إطلاقنا لشركة أوبن أي آي،

I remember I was in Puerto Rico for an AI conference.

بأنني كنت في بورتو ريكو للمشاركة بمؤتمر للذكاء الاصطناعي.

I'm sitting in the hotel room just looking out over this wonderful water,

كنت جالسا بغرفة الفندق أتأمل جمال الماء،

all these people having a good time.

والناس تستمتع بوقتها.

And you think about it for a moment,

فكروا في الأمر للحظة،

if you could choose for basically that Pandora’s box

إذا كان بإمكانكم أن تختاروا بين فتح صندوق باندورا،

to be five years away

بعد 5 سنوات

or 500 years away,

أو 500 سنة،

which would you pick, right?

فماذا ستختارون؟

On the one hand you're like, well, maybe for you personally,

فأنتم من جهة، تقولون، أنه ربما بالنسبة لكم شخصيا،

it's better to have it be five years away.

من الأفضل اختيار 5 سنوات.

But if it gets to be 500 years away and people get more time to get it right,

لكن إذا كان الأمر يتطلب خيار 500 سنة وإعطاء الوقت للناس للقيام به بشكل صحيح،

which do you pick?

فماذا ستختار؟

And you know, I just really felt it in the moment.

لقد أحسست بالأمر حينها.

I was like, of course you do the 500 years.

لقد فكرت بالطبع أن الخيار هو 500 سنة.

My brother was in the military at the time

كان أخي يخدم في الجيش وقتها،

and like, he puts his life on the line in a much more real way

كان يخاطر حرفيا بحياته على أرض الواقع

than any of us typing things in computers

أكثر من أي شخص يجلس أمام الحاسوب

and developing this technology at the time.

ويطور الذكاء الاصطناعي.

And so, yeah, I'm really sold on the you've got to approach this right.

وبالتالي، نعم، أنا مقتنع بأنه يجب التعامل مع الأمر بالشكل الصحيح.

But I don't think that's quite playing the field as it truly lies.

لكن لا أعتقد أن هذا يعكس الصورة الحقيقية للأمر.

Like, if you look at the whole history of computing,

فإذا نظرتم، مثلا، إلى القصة الكاملة للحوسبة،

I really mean it when I say that this is an industry-wide

وأنا أعني ذلك حقا عند حديثي عن تحول صناعي

or even just almost like

أو تغير تقني

a human-development- of-technology-wide shift.

على مستوى التنمية البشرية.

And the more that you sort of, don't put together the pieces

وأثناء تأخرنا في جمع لقطع الأحجية

that are there, right,

التي لدينا،

we're still making faster computers,

نصنع حواسيب أسرع،

we're still improving the algorithms, all of these things, they are happening.

ونحسن من الخوارزميات، وكل هذه الأمور تحدث حاليا.

And if you don't put them together, you get an overhang,

وإذا لم نجمعها ببعضها، سنجد أنفسنا أمام الأمر الواقع،

which means that if someone does,

ما يعني أنه إذا قام أو تمكن أحدهم من ربطها ببعضها،

or the moment that someone does manage to connect to the circuit,

then you suddenly have this very powerful thing,

فسيجد فجأة بين يده هذا الشيء القوي للغاية،

no one's had any time to adjust,

لن يملك أحد الوقت للتكيف،

who knows what kind of safety precautions you get.

ومن يدري أي نوع من الحماية ستوضع له حينها.

And so I think that one thing I take away

لذا، الشيء الذي خلصت إليه هو،

is like, even you think about development of other sort of technologies,

أنه إن فكرتم في تطوير تقنيات أخرى،

think about nuclear weapons,

استحضروا الأسلحة النووية،

people talk about being like a zero to one,

الناس يتحدثون عن كونه كالصفر بالنسبة لواحد،

sort of, change in what humans could do.

من حيث التغيير الذي يمكن للبشر إحداثه.

But I actually think that if you look at capability,

لكن أعتقد في الواقع أنه إذا نظرتم إلى القدرة،

it's been quite smooth over time.

فإنها تطورت تدريجيا بمرور الوقت.

And so the history, I think, of every technology we've developed

وبالتالي، أعتقد، أن تاريخ كل تقنية طورناها

has been, you've got to do it incrementally

يوضح أنه كان علينا القيام بذلك تدريجيا

and you've got to figure out how to manage it

والبحث على أنسب طريقة لإدارتها

for each moment that you're increasing it.

في كل مرة يتم تحسينها فيها.

CA: So what I'm hearing is that you ...

كريس: ما فهمته من كلامك هو أنك...

the model you want us to have

النموذج الذي تريدنا أن نتبعه

is that we have birthed this extraordinary child

هو أننا أعطينا الحياة لهذا المولود المدهش

that may have superpowers

الذي قد يمتلك قوى خارقة

that take humanity to a whole new place.

التي قد تحمل البشرية إلى مكان جديد.

It is our collective responsibility to provide the guardrails

وأننا نتحمل مسؤولون جميعا على وضع الحدود

for this child

لهذا المولود

to collectively teach it to be wise and not to tear us all down.

لتعليمه كلنا الحكمة وألا يغرقنا جميعا.

Is that basically the model?

هل هذا هو النمودج الأساسي؟

GB: I think it's true.

كريغ: أعتقد أن هذا صحيح.

And I think it's also important to say this may shift, right?

وأعتقد انه من المهم أيضا القول أن الأمر قد يتغير، صحيح؟

We've got to take each step as we encounter it.

علينا التعامل مع الواقع خطوة بخطوة .

And I think it's incredibly important today

وأعتقد أنه من المهم جدا اليوم

that we all do get literate in this technology,

أن نتعلم حول هذه التقنية،

figure out how to provide the feedback,

وفهم كيفية تقديم الملاحظات،

decide what we want from it.

وتقرير ما الذي نريده منها.

And my hope is that that will continue to be the best path,

وأملي أن يبقى هذا هو أفضل طريق لاتباعه،

but it's so good we're honestly having this debate

لكن من الجيد صراحة أن نحظى بهذا النقاش

because we wouldn't otherwise if it weren't out there.

لأنه لم نكن لنناقش الموضوع لو لم نصدر تشات جي بي تي.

CA: Greg Brockman, thank you so much for coming to TED and blowing our minds.

كريس: كريغ بروكمان، شكرا جزيلا على حضورك معنا في تيد وإبهارنا.

(Applause)

(تصفيق)