The Inside Story of ChatGPT’s Astonishing Potential | Greg Brockman | TED

Translator: Pari A Reviewer: Sadegh Vahdati Nia

We started OpenAI seven years ago

شرکت اُپن‌ای‌ای را هفت سال پیش شروع کردیم

because we felt like something really interesting was happening in AI

چون احساس می‌کردیم چیزی واقعاً جذاب در هوش مصنوعی در حال رخ دادن بود.

and we wanted to help steer it in a positive direction.

و می‌خواستیم به هدایت آن در جهتی مثبت کمک کنیم.

It's honestly just really amazing to see

صادقانه، خیلی شگفت‌انگیز است دیدن اینکه

how far this whole field has come since then.

کل این حوزه از آن زمان تاحالا چقدر پیشرفت کرده است.

And it's really gratifying to hear from people like Raymond

و شنیدن سخنان افرادی مانند ریموند

who are using the technology we are building, and others,

که از فناوری در حال ساخت ما استفاده می‌کنند و سخن دیگران

for so many wonderful things.

برای بسیاری از چیزهای شگفت‌انگیز مسرت‌بخش است.

We hear from people who are excited,

ما از افراد هیجان‌زده می‌شنویم،

we hear from people who are concerned,

از افرادی که نگران هستند می‌شنویم،

we hear from people who feel both those emotions at once.

از افرادی می‌شنویم که این دو احساس را همزمان تجربه می‌کنند.

And honestly, that's how we feel.

و صادقانه بگویم، ما این احساس را داریم.

Above all, it feels like we're entering an historic period right now

مهمتر از همه، به نظر می‌رسد که ما در حال ورود به یک دوره تاریخی هستیم

where we as a world are going to define a technology

که در آن به عنوان یک جهان، می‌خواهیم فناوری را تعریف کنیم

that will be so important for our society going forward.

که برای جامعه ما در آینده بسیار مهم خواهد بود.

And I believe that we can manage this for good.

و معتقدم که ما می‌توانیم این را به خوبی مدیریت کنیم.

So today, I want to show you the current state of that technology

بنابراین امروز، می‌خواهم وضعیت فعلی آن فناوری

and some of the underlying design principles that we hold dear.

و برخی از اصول اساسی طراحی را که برای ما عزیز است، نشان‌ دهم.

So the first thing I'm going to show you

خب اولین چیزی که می‌خواهم نشان‌تان دهم

is what it's like to build a tool for an AI

این است که ساختن ابزاری برای هوش مصنوعی

rather than building it for a human.

به جای ساختن آن برای انسان چگونه است.

So we have a new DALL-E model, which generates images,

خب ما نسخه‌ی تازه‌ی هوش مصنوعی دال-ای را داریم که تصویر تولید می‌کند،

and we are exposing it as an app for ChatGPT to use on your behalf.

و به عنوان نرم افزاری برای چت‌جی‌پی‌تی، در اختیارتان می‌گذاریم که استفاده کنید.

And you can do things like ask, you know,

و می‌توانید کارهایی مانند پرسیدن انجام دهید، مثلاً:

suggest a nice post-TED meal and draw a picture of it.

یک غذای خوب برای بعد از TED پیشنهاد بده و تصویر آن را بکش.

(Laughter)

(خنده)

Now you get all of the, sort of, ideation and creative back-and-forth

حالا شما تمام ایده‌ها و خلاقیت‌ها را پشت سر می‌گذارید

and taking care of the details for you that you get out of ChatGPT.

و مراقب جزئیاتی هستید که از چت‌جی‌پی‌تی دریافت می‌کنید.

And here we go, it's not just the idea for the meal,

و بفرمایید، این نه تنها ایده‌ی غذا است،

but a very, very detailed spread.

بلکه پاسخی بسیار، بسیار دقیق‌تر است.

So let's see what we're going to get.

پس بگذارید ببینیم چه به دست خواهیم آورد.

But ChatGPT doesn't just generate images in this case --

اما چت‌جی‌پی‌تی در این مورد فقط تصویر تولید نمی‌کند...

sorry, it doesn't generate text, it also generates an image.

ببخشید، فقط متن تولید نمی‌کند، تصویر هم تولید می‌کند.

And that is something that really expands the power

و این چیزی است که واقعاً قدرت

of what it can do on your behalf in terms of carrying out your intent.

انجام کارهایی در راستای اجرای نیت‌ شما، به جای خودتان را گسترش می‌دهد.

And I'll point out, this is all a live demo.

و اشاره کنم که تمامش یک نسخه نمایشی زنده است.

This is all generated by the AI as we speak.

تمام آنچه گفتیم با هوش مصنوعی ایجاد می‌شود.

So I actually don't even know what we're going to see.

بنابراین راستش حتی نمی‌دانم چه چیزی قرار است ببینیم.

This looks wonderful.

فوق‌العاده به نظر می‌رسد.

(Applause)

(تشویق ببیندگان)

I'm getting hungry just looking at it.

با دیدن آن اشتهایم باز شد.

Now we've extended ChatGPT with other tools too,

اکنون چت‌جی‌پی‌تی را با ابزارهای دیگر نیز گسترش داده‌ایم،

for example, memory.

به عنوان مثال، حافظه.

You can say "save this for later."

می‌توانید بگویید: «این را برای بعداً ذخیره کن.»

And the interesting thing about these tools

و نکته جالب در مورد این ابزارها این است که به راحتی قابل بازرسی هستند.

is they're very inspectable.

So you get this little pop up here that says "use the DALL-E app."

اینجا تبلیغی می‌گیرید حاوی: «از برنامه دال-ای استفاده کنید.»

And by the way, this is coming to you, all ChatGPT users, over upcoming months.

به هر حال، این در ماه‌های آینده در دسترس همه‌ی کاربران چت‌جی‌پی‌تی است.

و به زیر و بم آن نگاه کنید، می‌بینید کاری که در اصل انجام داد

And you can look under the hood and see that what it actually did

نوشتن یک درخواست بود، درست مانند یک انسان.

was write a prompt just like a human could.

And so you sort of have this ability to inspect

و بنابراین به نوعی امکان بررسی

how the machine is using these tools,

استفاده‌‌ دستگاه از این ابزارها را دارید،

which allows us to provide feedback to them.

که به ما امکان ارائه بازخورد را می‌دهد.

Now it's saved for later,

حالا در خصوص اطلاعاتی که قبلا ذخیره شد،

and let me show you what it's like to use that information

اکنون اجازه دهید به شما نشان دهم که استفاده از آن اطلاعات

and to integrate with other applications too.

و ادغام با سایر برنامه‌ها چگونه است.

You can say,

می‌توانید بگویید:

“Now make a shopping list for the tasty thing

«حالا یک لیست خرید برای آن چیز خوشمزه‌ای

I was suggesting earlier.”

که قبلاً پیشنهاد داده بودم، تهیه کن.»

And make it a little tricky for the AI.

و آن را برای هوش مصنوعی کمی دشوار کنید.

"And tweet it out for all the TED viewers out there."

«و آن را برای همه‌ی بینندگان TED توییت کن.»

(Laughter)

(خنده بینندگان)

So if you do make this wonderful, wonderful meal,

پس اگر این غذای خیلی فوق‌العاده را درست می‌کنید،

I definitely want to know how it tastes.

قطعاً می‌خواهم طعم آن را بدانم.

But you can see that ChatGPT is selecting all these different tools

اما می‌بینید که چت‌جی‌پی‌تی همه این ابزارهای مختلف را انتخاب می‌کند،

without me having to tell it explicitly which ones to use in any situation.

بدون اینکه مجبور باشم به صراحت بگویم در هر موقعیتی از کدام یک استفاده کند.

And this, I think, shows a new way of thinking about the user interface.

و این، به نظر من، شیوه جدیدی از تفکر در مورد رابط کاربری را نشان می‌دهد.

Like, we are so used to thinking of, well, we have these apps,

مثلاً خیلی عادت کرده‌ایم اینطور فکر کنیم که خب، ما این برنامه‌ها را داریم،

we click between them, we copy/paste between them,

بین آنها کلیک می‌کنیم، بین آنها کپی/پیست می‌کنیم،

and usually it's a great experience within an app

و این معمولاً تجربه‌ای عالی در یک برنامه است

as long as you kind of know the menus and know all the options.

تا زمانی که همه چیز را بدانید، و همه‌ی گزینه‌ها را بشناسید.

Yes, I would like you to.

بله، می‌خواهم این کار را بکنید. بله، لطفاً.

Yes, please.

Always good to be polite.

مؤدب بودن همیشه خوب است.

(Laughter)

(خنده بینندگان)

And by having this unified language interface on top of tools,

و با داشتن این رابط زبانی یکپارچه در بالای ابزارها،

the AI is able to sort of take away all those details from you.

هوش مصنوعی قادر است تمام آن جزئیات را از شما بگیرد.

So you don't have to be the one

بنابراین لازم نیست شما خود

who spells out every single sort of little piece

ریز به ریز هر آنچه که قرار است اتفاق بیفتد را بیان کنید.

of what's supposed to happen.

And as I said, this is a live demo,

گفتم این یک نسخه‌ آزمایشی زنده است،

so sometimes the unexpected will happen to us.

بنابراین گاهی اوقات اتفاقات غیرمنتظره‌ای برای ما رخ می‌دهد.

But let's take a look at the Instacart shopping list while we're at it.

اما برویم سراغ لیست خریدمان در فروشگاه اینستاکارت، حال که در آن هستیم.

And you can see we sent a list of ingredients to Instacart.

و می‌ببینید که لیست خرید مورد نیازمان را به اینستاکارت فرستادیم.

Here's everything you need.

این همه‌ چیزی است که نیاز دارید.

And the thing that's really interesting

و چیزی که واقعاً جالب است

is that the traditional UI is still very valuable, right?

ارزش رابط کاربری سنتی همچنان حفظ شده است، درست است؟

If you look at this,

اگر به این نگاه کنید،

you still can click through it and sort of modify the actual quantities.

هنوز هم می‌توانید روی آن کلیک کنید و مقادیر واقعی را تغییر دهید.

And that's something that I think shows

و این چیزی است که به نظرم نشان می‌دهد

that they're not going away, traditional UIs.

که به رابط‌های کاربری سنتی خدشه‌ای وارد نمی‌شود.

It's just we have a new, augmented way to build them.

اما ما یک راه جدید و تقویت شده برای ساخت آنها داریم.

And now we have a tweet that's been drafted for our review,

اکنون توییتی داریم که برای بررسی ما آماده شده است،

which is also a very important thing.

و خیلی هم چیز مهمی است.

We can click “run,” and there we are, we’re the manager, we’re able to inspect,

می‌توانیم روی گزینه‌ی «اجرا» بزنیم، و حالا به عنوان تصمیم‌گیرنده بررسی کنیم.

we're able to change the work of the AI if we want to.

قادریم که در صورت نیاز، کار هوش مصنوعی را تغییر دهیم.

And so after this talk, you will be able to access this yourself.

و بعد از این رویداد، خودتان قادر به دسترسی خواهید بود.

And there we go.

و بفرمایید!

Cool.

جالب است.

Thank you, everyone.

از همگان متشکرم.

(Applause)

(تشویق بینندگان)

So we’ll cut back to the slides.

به اسلایدها برگردیم.

Now, the important thing about how we build this,

در حال حاضر، نکته مهم در مورد نحوه‌ی ساخت این ابزار،

it's not just about building these tools.

فقط ساخت این ابزارها نیست.

It's about teaching the AI how to use them.

بلکه آموزش هوش مصنوعی در استفاده از آنها است.

Like, what do we even want it to do

مثلاً می‌خواهیم چه کار کند،

when we ask these very high-level questions?

وقتی که این سؤالات سطح بالا را می‌پرسیم؟

And to do this, we use an old idea.

و برای این کار، از ایده‌ای قدیمی استفاده می‌کنیم.

If you go back to Alan Turing's 1950 paper on the Turing test, he says,

مقاله آلن تورینگ در سال ۱۹۵۰، در مورد آزمون تورینگ اینطور می‌گوید:

you'll never program an answer to this.

شما هرگز پاسخی به این برنامه نخواهید داد.

Instead, you can learn it.

در عوض، می‌توانید آن را بیاموزید.

You could build a machine, like a human child,

می‌توانید ماشینی بسازید، مانند یک کودک انسان،

and then teach it through feedback.

و سپس آن را از طریق بازخوردها آموزش دهید.

Have a human teacher who provides rewards and punishments

یک معلم انسانی داشته باشد که پاداش‌ها و تنبیه‌ها را

as it tries things out and does things that are either good or bad.

در حین امتحان چیزها و یا انجام کارها، چه درست و چه غلط فراهم کند.

And this is exactly how we train ChatGPT.

و این دقیقاً نحوه‌ی آموزش چت‌جی‌پی‌تی است.

It's a two-step process.

فرآیندی دو مرحله‌ای است.

First, we produce what Turing would have called a child machine

اول، چیزی را تولید می‌کنیم که تورینگ آن را ماشین کودک می‌نامد،

through an unsupervised learning process.

از طریق یک فرآیند یادگیری بدون نظارت.

We just show it the whole world, the whole internet

ما صرفاً کل دنیا، کل اینترنت را به آن نشان می‌دهیم

and say, “Predict what comes next in text you’ve never seen before.”

و می‌گوییم: «پیش‌بینی کن که در متنی که قبلاً ندیده‌ای، چه می‌آید.»

And this process imbues it with all sorts of wonderful skills.

و طی این فرآیند، آن را با مهارت‌های شگفت‌انگیزی آغشته می‌کند.

For example, if you're shown a math problem,

مثلاً، اگر یک مسئله ریاضی به شما بدهند،

the only way to actually complete that math problem,

تنها راه برای تکمیل آن مسئله ریاضی، برای گفتن آنچه بعداً می‌آید،

to say what comes next,

that green nine up there,

آن نُه سبز رنگ،

is to actually solve the math problem.

این است که واقعاً مسئله ریاضی را حل کنید.

But we actually have to do a second step, too,

اما در واقع باید مرحله دوم را نیز انجام دهیم،

which is to teach the AI what to do with those skills.

این که به هوش مصنوعی یاد دهیم با این مهارت‌ها چه کند.

And for this, we provide feedback.

از این رو نیاز به بازخورد داریم.

We have the AI try out multiple things, give us multiple suggestions,

هوش مصنوعی چندین چیز را امتحان می‌کند، پیشنهاداتی می‌دهد،

and then a human rates them, says “This one’s better than that one.”

بعد یک انسان به آنها امتیاز می‌دهد و می‌گوید: «این بهتر از آن است.»

And this reinforces not just the specific thing that the AI said,

و این نه تنها آنچه که هوش مصنوعی گفته است را تقویت می‌کند،

but very importantly, the whole process that the AI used to produce that answer.

بلکه مهم‌تر از آن، فرآیند تولید آن پاسخ توسط هوش مصنوعی را نیز قوت می‌بخشد.

And this allows it to generalize.

و این به آن امکان تعمیم می‌دهد؛

It allows it to teach, to sort of infer your intent

اجازه‌ی یادگیری می‌دهد تا خواسته‌تان را استنباط کند

and apply it in scenarios that it hasn't seen before,

و آن را در سناریوهایی اعمال کند که قبلاً ندیده‌

that it hasn't received feedback.

و یا هنوز بازخورد‌ی نگرفته است.

Now, sometimes the things we have to teach the AI

گاهی اوقات چیزی که باید به هوش مصنوعی بیاموزیم،

are not what you'd expect.

آن چیزی نیست که انتظار داریم.

For example, when we first showed GPT-4 to Khan Academy,

مثلاً وقتی بار اول جی‌پی‌تی-۴ را به خان آکادمی نشان دادیم،

they said, "Wow, this is so great,

آنها گفتند: «وای! خیلی عالی است،

We're going to be able to teach students wonderful things.

می‌توانیم چیزهای شگفت‌انگیزی به دانش آموزان آموزش دهیم.

Only one problem, it doesn't double-check students' math.

فقط مشکل این است که ریاضی دانش آموزان را دوبار چک نمی‌کند.

If there's some bad math in there,

اگر غلط ریاضی وجود داشته باشد،

it will happily pretend that one plus one equals three and run with it."

به سادگی عنوان می‌کند یک به علاوه یک مساوی‌ است با سه، و اجرایش می‌کند.»

So we had to collect some feedback data.

پس باید داده‌‌ی بازخورد‌ها را جمع‌آوری می‌کردیم.

Sal Khan himself was very kind

شخص سال خان بسیار سخاوتمند بود

and offered 20 hours of his own time to provide feedback to the machine

و بیست ساعت از وقت خود را وقف ارائه بازخورد به دستگاه،

alongside our team.

در کنار تیم ما کرد.

And over the course of a couple of months we were able to teach the AI that,

و در طول چند ماه، توانستیم به هوش مصنوعی آموزش دهیم که

"Hey, you really should push back on humans

«ببین، گاهی جداً لازم است در یک سناریوی خاص با انسان مخالفت کنی.»

in this specific kind of scenario."

And we've actually made lots and lots of improvements to the models this way.

و در واقع از این طریق، پیشرفت‌های زیادی در مدل‌ها ایجاد کردیم.

And when you push that thumbs down in ChatGPT,

وقتی در چت‌جی‌پی‌تی گزینه‌ی بازخورد منفی را می‌زنید،

that actually is kind of like sending up a bat signal to our team to say,

مثل نوعی ارسال سیگنال بتمنی به تیم ما عمل می‌کند که می‌گوید:

“Here’s an area of weakness where you should gather feedback.”

«در اینجا نقطه ضعفی هست که نیازمند جمع‌آوری بازخورد می‌باشد.»

And so when you do that,

پس با انجام این کار،

that's one way that we really listen to our users

از این راه به کاربران خود گوش می‌دهیم

and make sure we're building something that's more useful for everyone.

و مطمئن می‌شویم آنچه که داریم می‌سازیم، برای همگان مفید است.

Now, providing high-quality feedback is a hard thing.

حالا، ارائه بازخورد با کیفیت بالا کار سختی است.

If you think about asking a kid to clean their room,

فرضاً اگر از یک بچه بخواهید اتاقش را تمیز کند،

if all you're doing is inspecting the floor,

اگر تمام کار شما صرفاً بررسی زمین باشد،

you don't know if you're just teaching them to stuff all the toys in the closet.

نمی‌دانید فقط دارید به او می‌آموزید که همه اسباب‌بازی‌ها را در کمد قرار دهد.

This is a nice DALL-E-generated image, by the way.

این تصویر زیبا را دال-ای ساخته است، به هر حال.

And the same sort of reasoning applies to AI.

و همین استدلال در مورد هوش مصنوعی هم صدق می‌کند.

As we move to harder tasks,

همچنان که سمت وظایف سخت‌تر در حرکتیم،

we will have to scale our ability to provide high-quality feedback.

باید توانایی خود را برای ارائه بازخوردهای باکیفیت هم افزایش دهیم.

But for this, the AI itself is happy to help.

اما برای این کار، خود هوش مصنوعی خوشحال است که کمک می‌کند.

It's happy to help us provide even better feedback

خوشحالیم که کمک‌مان می‌کند بازخوردهای خوبی بگیریم

and to scale our ability to supervise the machine as time goes on.

و با گذشت زمان، توانایی خود را برای نظارت بر این دستگاه افزایش دهیم.

And let me show you what I mean.

اجازه دهید منظورم را برسانم.

For example, you can ask GPT-4 a question like this,

به عنوان مثال، می‌توانید از جی‌پی‌تی-۴ سؤالی مانند این بپرسید

of how much time passed between these two foundational blogs

که چقدر زمان بین این دو بلاگ اساسی،

on unsupervised learning

برای یادگیری بدون نظارت و یادگیری از بازخورد‌های انسانی سپری شده است.

and learning from human feedback.

And the model says two months passed.

و مدل پاسخ می‌دهد که دو ماه سپری شده است.

But is it true?

اما آیا حقیقت دارد؟

Like, these models are not 100-percent reliable,

مثلاً، این مدل‌ها ۱۰۰ درصد قابل اعتماد نیستند،

although they’re getting better every time we provide some feedback.

اگرچه با ارائه‌ی هر بازخوردی بهتر می‌شوند.

But we can actually use the AI to fact-check.

اما می‌توانیم از هوش مصنوعی برای تأیید داده‌ها استفاده کنیم.

And it can actually check its own work.

در واقع می‌تواند کار خود را بررسی کند.

You can say, fact-check this for me.

می‌توانید بگویید: «این را بررسی کن.»

Now, in this case, I've actually given the AI a new tool.

حال در این مورد، در واقع ابزار جدیدی به هوش مصنوعی داده‌ام.

This one is a browsing tool

این یک ابزار مرور است،

where the model can issue search queries and click into web pages.

ابزاری که مدل می‌تواند صفحات وب را جستجو و کلیک کند.

And it actually writes out its whole chain of thought as it does it.

و در واقع کل زنجیره فکری خود را همانطور که انجام می‌دهد، می‌نویسد.

It says, I’m just going to search for this and it actually does the search.

می‌گوید، فقط می‌خواهم این را جستجو کنم و در واقع جستجو را انجام می‌دهد.

It then it finds the publication date and the search results.

سپس تاریخ انتشار و نتایج جستجو را پیدا می‌کند.

It then is issuing another search query.

سپس درخواست جستجوی دیگری را صادر می‌کند.

It's going to click into the blog post.

روی پست وبلاگ کلیک می‌کند.

And all of this you could do, but it’s a very tedious task.

همه این‌ها را می‌توانید بکنید، اما کار خسته کننده‌ای است.

It's not a thing that humans really want to do.

این چیزی نیست که آدم جداً بخواهد انجام دهد.

It's much more fun to be in the driver's seat,

نشستن روی صندلی راننده بسیار لذت‌بخش‌تر است،

to be in this manager's position where you can, if you want,

قرار گرفتن در موقعیتی اجرایی که در صورت تمایل می‌توانید

triple-check the work.

کار را سه بار بررسی کنید.

And out come citations

و استنادها را بیرون بیاورید

so you can actually go

تا به راحتی بروید

and very easily verify any piece of this whole chain of reasoning.

و هر قطعه‌ای از کل این زنجیره‌ی استدلال را تأیید کنید.

And it actually turns out two months was wrong.

و در واقع، معلوم شد که دو ماه اشتباه بود.

Two months and one week,

دو ماه و یک هفته،

that was correct.

درست بود.

(Applause)

(تشویق بینندگان)

And we'll cut back to the side.

و بیایید به اسلاید برگردیم.

And so thing that's so interesting to me about this whole process

و چیزی که در کل این فرآیند برای من بسیار جالب است

is that it’s this many-step collaboration between a human and an AI.

این است که این یک همکاری چند مرحله‌ای میان یک انسان و یک هوش مصنوعی است.

Because a human, using this fact-checking tool

چون انسان با استفاده از این ابزار حقیقت‌سنج

is doing it in order to produce data

کاری می‌کند که داده‌هایی را

for another AI to become more useful to a human.

برای هوش مصنوعی دیگری تولید کند که برای انسان مفیدتر باشد.

And I think this really shows the shape of something

و من فکر می‌کنم این واقعاً شکل چیزی را نشان می‌دهد

that we should expect to be much more common in the future,

که ما باید انتظار داشته باشیم در آینده بسیار فراگیرتر باشد،

where we have humans and machines kind of very carefully

جایی که انسان‌ها و دستگاه‌هایی را داریم که با دقت

and delicately designed in how they fit into a problem

و ظرافتِ متناسب با یک مشکل

and how we want to solve that problem.

و نحوه‌ی حل آن مشکل طراحی شده‌اند.

We make sure that the humans are providing the management, the oversight,

ما اطمینان می‌دهیم که انسان‌ها مدیریت، نظارت، بازخورد

the feedback,

و دستگاه‌ها را به گونه‌ای قابل بازرسی و قابل اعتماد ارائه می‌کنند.

and the machines are operating in a way that's inspectable

and trustworthy.

و با هم می‌توانیم دستگاه‌های قابل اعتمادتری بیافرینیم.

And together we're able to actually create even more trustworthy machines.

و فکر می‌کنم با گذشت زمان، اگر که این روند درست پیش رود،

And I think that over time, if we get this process right,

می‌توانیم مشکلات غیرممکن را حل کنیم.

we will be able to solve impossible problems.

و برای اینکه بفهمید چقدر غیرممکن صحبت می‌کنم،

And to give you a sense of just how impossible I'm talking,

I think we're going to be able to rethink almost every aspect

فکر می‌کنم می‌توانیم تقریباً در هر جنبه‌ای

of how we interact with computers.

از نحوه‌ی تعامل خود با رایانه‌ها تجدید نظر کنیم.

For example, think about spreadsheets.

به عنوان مثال، به برگه‌های گسترده فکر کنید.

They've been around in some form since, we'll say, 40 years ago with VisiCalc.

آنها حدود چهل سال است که از زمان ویسی‌کلک به هر شکلی وجود داشته‌اند.

I don't think they've really changed that much in that time.

من فکر نمی‌کنم واقعاً در این مدت تغییر زیادی کرده باشند.

And here is a specific spreadsheet of all the AI papers on the arXiv

و این برگه‌ای گسترده‌ حاوی تمام مقالات هوش مصنوعی، موجود در سرویس آرکایو

for the past 30 years.

طی سی سال گذشته است.

There's about 167,000 of them.

حدوداً ۱۶۷ هزار مقاله.

And you can see there the data right here.

و می‌توانید داده‌ها را در آن ببینید.

But let me show you the ChatGPT take on how to analyze a data set like this.

اما بگذارید نشان دهم که چگونه چت‌جی‌پی‌تی این مجموعه داده‌ها را تحلیل می‌کند.

So we can give ChatGPT access to yet another tool,

خب، می‌توانیم به چت‌جی‌پی‌تی به ابزار دیگری دسترسی دهیم،

this one a Python interpreter,

این ابزار یک مفسر پایتون است،

so it’s able to run code, just like a data scientist would.

بنابراین درست مانند یک متخصص داده می‌تواند کد را اجرا کند،

And so you can just literally upload a file

می‌توانید به راحتی فایلی را بارگذاری کنید

and ask questions about it.

و در مورد آن سؤال بپرسید.

And very helpfully, you know, it knows the name of the file and it's like,

و بسیار کاربردی است، می‌دانید، ابزار با تشخیص نام پوشه می‌گوید:

"Oh, this is CSV," comma-separated value file,

«این سی‌اس‌وی(CSV) است»، فایل مقدار جدا شده با ویرگول،

"I'll parse it for you."

«برای‌تان تحلیلش می‌کنم.»

The only information here is the name of the file,

تنها اطلاعاتی که اینجا هست، نام فایل،

the column names like you saw and then the actual data.

نام ستون‌هایی که دیدید و سپس داده‌های واقعی می‌باشد.

And from that it's able to infer what these columns actually mean.

و از آن می‌تواند نتیجه‌گیری کند که این ستون‌ها در اصل چه معنایی دارند.

Like, that semantic information wasn't in there.

در حالی که اطلاعات معناداری در آن دیده نمی‌شد.

It has to sort of, put together its world knowledge of knowing that,

شما باید دانش خود را جمع‌آوری کنید به طور کلی بدانید که

“Oh yeah, arXiv is a site that people submit papers

«آرکایو سایتی است که افراد در آن مقاله می‌فرستند،

and therefore that's what these things are and that these are integer values

و این‌ چیزها این‌گونه هستند و این‌ها مقادیر صحیح‌ می‌باشند

and so therefore it's a number of authors in the paper,"

و این‌ها تعدادی از نویسندگان در یک مقاله هستند»،

like all of that, that’s work for a human to do,

کار‌هایی از این دست را انسان انجام می‌دهد،

and the AI is happy to help with it.

و هوش مصنوعی خوشحال است کمک می‌کند.

Now I don't even know what I want to ask.

حال، حتی نمی‌دانم می‌خواهم چه بپرسم.

So fortunately, you can ask the machine,

خب خوشبختانه، می‌توانید از دستگاه بپرسید:

"Can you make some exploratory graphs?"

«می‌توانی برایم چند نمودار بکشی؟»

And once again, this is a super high-level instruction with lots of intent behind it.

و یک بار دیگر، این آموزش در سطح بالا با کلی نیت در پشت آن است.

But I don't even know what I want.

اما من حتی نمی‌دانم چه می‌خواهم.

And the AI kind of has to infer what I might be interested in.

و هوش مصنوعی باید استنباط کند که علاقمندی احتمالی شما چیست.

And so it comes up with some good ideas, I think.

بنابراین با ایده‌های خوبی همراه است، از نظر من.

So a histogram of the number of authors per paper,

نمودار تعداد نویسندگان هر مقاله،

time series of papers per year, word cloud of the paper titles.

سری زمانی مقالات بر اساس سال، ابر کلماتی از تیتر مقالات.

All of that, I think, will be pretty interesting to see.

فکر می‌کنم دیدن همه‌ی اینها بسیار جالب خواهد بود.

و نکته‌ی خوب آن توانایی انجام این‌ها است.

And the great thing is, it can actually do it.

Here we go, a nice bell curve.

در این منحنی زنگی شکل زیبا

می‌بینید که سه رایج‌ترین عدد است.

You see that three is kind of the most common.

سپس این نمودار جذاب از مقالات را بر اساس سال ایجاد می کند.

It's going to then make this nice plot of the papers per year.

Something crazy is happening in 2023, though.

اتفاق عجیبی در سال ۲۰۲۳ در حال رخ دادن است.

Looks like we were on an exponential and it dropped off the cliff.

منحنی نمایی ناگهان سقوط می‌کند.

چه می‌تواند آنجا رخ دهد؟

What could be going on there?

در کل، همه این‌ها کد پایتون هستند، می‌توانید بررسی کنید.

By the way, all this is Python code, you can inspect.

And then we'll see word cloud.

سراغ ابر کلمات می‌رویم.

So you can see all these wonderful things that appear in these titles.

با آن می‌توانید همه‌ی چیزهای بی‌نظیری که در عناوین هست را ببینید.

But I'm pretty unhappy about this 2023 thing.

اما من از این منحنی ۲۰۲۳ راضی نیستم.

It makes this year look really bad.

این تصویر بدی از امسال می‌رساند‌.

Of course, the problem is that the year is not over.

البته مشکل اینجاست که سال تمام نشده است.

So I'm going to push back on the machine.

بنابراین می‌خواهم دستگاه را به عقب برگردانم.

[Waitttt that's not fair!!!

[صبر کنننن، این منصفانه نیست!!!

2023 isn't over.

سال ۲۰۲۳ تمام نشده است.

What percentage of papers in 2022 were even posted by April 13?]

چند درصد از مقالات در سال ۲۰۲۲، حتی تا ۱۳ آوریل منتشر شده‌اند؟]

So April 13 was the cut-off date I believe.

بنابراین من معتقدم که ۱۳ آوریل تاریخ قطعی بود.

Can you use that to make a fair projection?

آیا می‌توانی از آن برای ایجاد یک طرح‌ریزی منصفانه استفاده کنی؟

So we'll see, this is the kind of ambitious one.

بنابراین خواهیم دید که این یک نوع جاه‌طلبی است.

(Laughter)

(خنده)

So you know,

پس می‌دانید،

again, I feel like there was more I wanted out of the machine here.

یک بار دیگر، احساس می‌کنم چیزهای بیشتری هست که می‌خواستم دستگاه به من بدهد.

I really wanted it to notice this thing,

واقعاً می‌خواستم متوجه این موضوع شود،

maybe it's a little bit of an overreach for it

شاید کمی اغراق است که به شکلی جادویی استنباط کند

to have sort of, inferred magically that this is what I wanted.

که این همان چیزی است که من می‌خواستم.

But I inject my intent,

اما نیتم را منتقل می‌کنم،

I provide this additional piece of, you know, guidance.

می‌دانید، این بخش اضافی از راهنمایی را ارائه می‌کنم.

And under the hood,

و در پشت پرده،

the AI is just writing code again, so if you want to inspect what it's doing,

هوش مصنوعی دوباره در حال نوشتن کد است، پس اگر می‌خواهید کار آن را بررسی کنید،

it's very possible.

کاملاً امکان‌پذیر است.

And now, it does the correct projection.

و اکنون، طرح ریزی صحیح را انجام می‌دهد.

(Applause)

(تشویق ببیندگان)

If you noticed, it even updates the title.

اگر دقت کنید، حتی عنوان را به روز می‌کند.

I didn't ask for that, but it know what I want.

من این را درخواست نکردم، اما می‌داند چه می‌خواهم.

Now we'll cut back to the slide again.

حالا بیایید دوباره به اسلاید برگردیم.

This slide shows a parable of how I think we ...

این اسلاید، یک نمونه از چشم‌اندازی که به نظرم

A vision of how we may end up using this technology in the future.

در آینده از موارد استفاده این تکنولوژی خواهد بود را نشان می‌دهد.

A person brought his very sick dog to the vet,

شخصی سگ بسیار بیمار خود را پیش دامپزشک آورد

and the veterinarian made a bad call to say, “Let’s just wait and see.”

و دامپزشک تصمیم بدی گرفت و گفت: «بیا صبر کنیم و ببینیم.»

And the dog would not be here today had he listened.

و اگر گوش می‌داد، سگش امروز اینجا نبود.

In the meanwhile, he provided the blood test,

در همین حین او آزمایش خون را،

like, the full medical records, to GPT-4,

سوابق پزشکی کامل‌اش را به جی‌پی‌تی-۴ داد،

which said, "I am not a vet, you need to talk to a professional,

که گفت: «من دامپزشک نیستم، باید با یک متخصص صحبت کنید،

here are some hypotheses."

این چند فرضیه است.»

He brought that information to a second vet

او این اطلاعات را برای دامپزشک دوم برد

who used it to save the dog's life.

که از آن برای نجات جان سگ استفاده کرد.

Now, these systems, they're not perfect.

حالا، این سیستم‌ها کامل نیستند.

You cannot overly rely on them.

نمی‌توانید بیش از حد به آنها اعتماد کنید.

But this story, I think, shows

اما این داستان، به نظر من، نشان می‌دهد

that a human with a medical professional

که فردی با همراهی یک متخصص پزشکی

and with ChatGPT as a brainstorming partner

و با چت‌جی‌پی‌تی به عنوان شریک طوفان فکری

was able to achieve an outcome that would not have happened otherwise.

توانسته‌اند به نتیجه‌ای برسند که در حالتی غیر از این رخ نمی‌داد‌.

I think this is something we should all reflect on,

فکر می‌کنم همه‌ی ما باید به این فکر کنیم

think about as we consider how to integrate these systems

که چگونه این سیستم‌ها را در دنیای خود ادغام کنیم.

into our world.

And one thing I believe really deeply,

و آنچه که واقعاً و عمیقاً به آن معتقدم

این است که بی‌نقص ساختن هوش مصنوعی نیازمند مشارکت همگانی‌ است.

is that getting AI right is going to require participation from everyone.

And that's for deciding how we want it to slot in,

ما تصمیم می‌گیریم چگونه از هوش مصنوعی بهره ببریم،

that's for setting the rules of the road,

قوانین مسیر چیست،

for what an AI will and won't do.

اینکه هوش مصنوعی چه می‌تواند بکند و چه نه.

And if there's one thing to take away from this talk,

و اگر نکته‌ای باشد که در این سخنرانی جا مانده باشد

it's that this technology just looks different.

این است که این فناوری جداً متفاوت است.

Just different from anything people had anticipated.

متفاوت با هر آنچه که مردم پیش‌بینی می‌کردند.

And so we all have to become literate.

و بنابراین همه‌ی ما باید باسواد شویم.

And that's, honestly, one of the reasons we released ChatGPT.

و صادقانه، این یکی از دلایلی است که چت‌جی‌پی‌تی را منتشر کردیم.

Together, I believe that we can achieve the OpenAI mission

معتقدم که ما با هم می‌توانیم به مأموریت شرکت اپن‌ای‌آی دست یابیم

of ensuring that artificial general intelligence

تا اطمینان حاصل شود که هوش جامع مصنوعی

benefits all of humanity.

به نفع همه بشریت است.

Thank you.

متشکرم.

(Applause)

(تشویق بینندگان)

(Applause ends)

(پایان تشویق)

Chris Anderson: Greg.

کریس اندرسون: گرِگ.

Wow.

وای!

I mean ...

منظورم این است که...

I suspect that within every mind out here

گمان می‌کنم همه‌ی ما کاملاً گیج شده‌ باشیم.

there's a feeling of reeling.

Like, I suspect that a very large number of people viewing this,

مثلاً، گمان می‌کنم که تعداد بسیار زیادی از تماشاگران،

you look at that and you think, “Oh my goodness,

نگاه می‌کنند و با خود فکر می‌کنند، «اوه، خدای من،

pretty much every single thing about the way I work, I need to rethink."

تقریباً در مورد هر چیزی از نحوه‌ی کارم باید دوباره فکر کنم.»

Like, there's just new possibilities there.

مانند، چه امکانات تازه‌‌ای وجود دارد.

Am I right?

درست می‌گویم؟

Who thinks that they're having to rethink the way that we do things?

چه کسی فکر می‌کند که آنها باید در نحوه‌ی انجام کارها تجدید نظر کنند؟

Yeah, I mean, it's amazing,

بله، یعنی حیرت‌انگیز است‌،

but it's also really scary.

همچنین واقعاً ترسناک است.

So let's talk, Greg, let's talk.

خب صحبت کنیم، گرگ، حرف بزنیم.

I mean, I guess my first question actually is just

یعنی حدس می‌زنم اولین سؤال من این باشد

how the hell have you done this?

که چگونه این کار را انجام دادید؟

(خنده)

(Laughter)

OpenAI has a few hundred employees.

شرکت اپن‌ای‌آی چند صد کارمند دارد.

Google has thousands of employees working on artificial intelligence.

گوگل هزاران کارمند دارد که روی هوش مصنوعی کار می‌کنند.

Why is it you who's come up with this technology

چطور شما با این چنین فناوری‌ای آمدید

که جهان را شوکه کرد؟

that shocked the world?

Greg Brockman: I mean, the truth is,

گرگ براکمن: راستش، حقیقت این است

که ما روی شانه‌‌ی غول‌ها قد علم کرده‌ایم، بله، شکی در آن نیست.

we're all building on shoulders of giants, right, there's no question.

If you look at the compute progress,

اگر به پیشرفت‌ محاسباتی،پیشرفت‌ الگوریتمی، پیشرفت داده‌ها نگاه کنید،

the algorithmic progress, the data progress,

تمام اینها واقعاً در سطح صنعتی هستند.

all of those are really industry-wide.

اما به نظرم در اپن‌‌ای‌آی،

But I think within OpenAI,

ما از همان روزهای اولیه انتخاب‌های بسیار عمدی انجام دادیم.

we made a lot of very deliberate choices from the early days.

و اولین مورد فقط رویارویی با واقعیت بود.

And the first one was just to confront reality as it lays.

و اینکه واقعاً به سختی در مورد آن فکر کردیم، مثل:

And that we just thought really hard about like:

برای پیشرفت در اینجا چه چیزی لازم است؟

What is it going to take to make progress here?

We tried a lot of things that didn't work, so you only see the things that did.

چیزهای ناموفق زیادی را امتحان کردیم، شما چیزهایی را می‌بینید که جواب داده‌اند.

و فکر می‌کنم که مهمترین چیز این بوده است که تیم‌هایی از افراد

And I think that the most important thing has been to get teams of people

که بسیار متفاوت از یکدیگر هستند، به طور هماهنگ با هم کار می‌کنند.

who are very different from each other to work together harmoniously.

CA: Can we have the water, by the way, just brought here?

می‌توانید کمی برای ما آب بیاورید؟

فکر می‌کنم آب لازم داشته باشیم، این موضوعی تشنه‌کننده است.

I think we're going to need it, it's a dry-mouth topic.

But isn't there something also just about the fact

اما آیا این یک حقیقت نیست

that you saw something in these language models

که شما چیزی در این مدل‌های زبانی دیدید

that meant that if you continue to invest in them and grow them,

که باعث شد فکر کنید اگر به سرمایه‌گذاری روی آن‌ها و رشد آن‌ها ادامه دهید،

that something at some point might emerge?

ممکن است در مقطعی چیزی ظهور کند؟

GB: Yes.

گ‍رِگ: بله.

And I think that, I mean, honestly,

و من فکر می‌کنم که، یعنی صادقانه بگویم،

I think the story there is pretty illustrative, right?

فکر می‌کنم این به خوبی این موضوع را نشان می‌دهد، خب؟

I think that high level, deep learning,

فکر می‌کنم آن یادگیری عمیق در سطح بالا،

like we always knew that was what we wanted to be,

همان چیزی که همیشه به دنبال آن بوده‌ایم،

was a deep learning lab, and exactly how to do it?

یک آزمایشگاه یادگیری عمیق بود، و چگونه به آن برسیم؟

فکر می‌کنم که در روزهای اول نمی‌دانستیم.

I think that in the early days, we didn't know.

We tried a lot of things,

چیزهای زیادی امتحان کردیم، یک نفر روی آموزش مدلی کار می‌کرد

and one person was working on training a model

که حرف بعدی را در نظرات آمازون پیش‌بینی می‌کرد،

to predict the next character in Amazon reviews,

and he got a result where -- this is a syntactic process,

و به نتیجه رسید؛ این یک فرآیند نحوی است،

you expect, you know, the model will predict where the commas go,

مدل پیش‌بینی می‌کند ویرگول کجا قرار می‌گیرد،

where the nouns and verbs are.

و اسامی و افعال کجا هستند.

But he actually got a state-of-the-art sentiment analysis classifier out of it.

اما او در واقع یک طبقه‌بندی تحلیلی از احساسات پیشرفته را از آن استخراج کرد.

This model could tell you if a review was positive or negative.

این مدل می‌تواند بگوید که این نظردهی مثبت یا منفی بوده است.

I mean, today we are just like, come on, anyone can do that.

یعنی امروز اینطور می‌گوییم: «بیخیال! هر کسی می‌تواند این کار را بکند.»

But this was the first time that you saw this emergence,

اما این اولین باری بود که شما شاهد این ظهور بوده‌اید،

this sort of semantics that emerged from this underlying syntactic process.

این نوع معناشناسی که از این فرآیند نحوی اساسی پدید آمده است.

And there we knew, you've got to scale this thing,

و آنجا می‌دانستیم که باید این چیز را مقایسه کرد،

you've got to see where it goes.

باید دید که به کجا می‌رود.

CA: So I think this helps explain

کریس: پس فکر می‌کنم که این به شفافیت

the riddle that baffles everyone looking at this,

معمایی که همه‌ی شاهدین را گیج کرده است، کمک می‌کند.

because these things are described as prediction machines.

زیرا این چیزها به عنوان دستگاه‌های پیش‌بینی توصیف می‌شوند.

And yet, what we're seeing out of them feels ...

و همچنان آنچه که از دیدن آنها برداشت ‌می‌کنیم...

it just feels impossible that that could come from a prediction machine.

جداً غیرممکن به نظر می‌رسد که یک دستگاه‌ از عهده‌ پیش‌بینی برآید.

Just the stuff you showed us just now.

همین چیزایی که الان به ما نشان دادید.

And the key idea of emergence is that when you get more of a thing,

و ایده‌ی کلیدی ظهور این است که وقتی چیزی بیشتر به دست می‌آورید،

suddenly different things emerge.

ناگهان چیزهای مختلفی پدید می‌آید.

It happens all the time, ant colonies, single ants run around,

همیشه اینطور است، در کلونی مورچه‌ها، تعدادی منفرد راه می‌روند،

when you bring enough of them together,

وقتی تعداد کافی از آنها را جمع کنید،

you get these ant colonies that show completely emergent, different behavior.

کلونی‌ای از مورچه‌ها خواهید داشت که رفتاری نوظهور و متفاوت بروز می‌دهند.

Or a city where a few houses together, it's just houses together.

یا یک شهر با تعدادی خانه در آن، صرفاً چند خانه کنار هم هستند.

But as you grow the number of houses,

اما با افزایش تعداد خانه‌ها،

things emerge, like suburbs and cultural centers and traffic jams.

چیزهایی مانند حومه شهرها و مراکز فرهنگی و راهبندان‌ها پدیدار می‌شود.

Give me one moment for you when you saw just something pop

از لحظه‌ای برای ما بگویید که چیزی ظاهر شد

that just blew your mind

که شما را غافلگیر کرد

that you just did not see coming.

و انتظارش را نداشتید.

GB: Yeah, well,

گرِگ: بله، خب،

so you can try this in ChatGPT, if you add 40-digit numbers --

این را در چت‌جی‌پی‌تی امتحان کنید، اگر اعداد چهل رقمی را اضافه کنید؛

CA: 40-digit?

کریس: چهل رقمی؟

GB: 40-digit numbers, the model will do it,

گرِگ: اعداد چهل رقمی، مدل انجامش می‌دهد،

which means it's really learned an internal circuit for how to do it.

این یعنی که مدار داخلی‌ نحوه‌ی انجام آن را یاد گرفته است.

And the really interesting thing is actually,

و نکته واقعاً جالب این است که

if you have it add like a 40-digit number plus a 35-digit number,

اگر آن را مانند یک عدد چهل رقمی به اضافه یک عدد ۳۵ رقمی اضافه کنید،

it'll often get it wrong.

اغلب اشتباه می‌کند.

And so you can see that it's really learning the process,

و پس می‌توانید ببینید که واقعاً در حال یادگیری فرآیند است،

but it hasn't fully generalized, right?

اما کاملاً تعمیم نداده است، درست است؟

It's like you can't memorize the 40-digit addition table,

مثل اینکه نمی‌توانید جدول جمع چهل رقمی را به یاد بسپارید،

that's more atoms than there are in the universe.

این اتم‌ها تعدادشان بیشتر از اتم‌های جهان است.

So it had to have learned something general,

بنابراین باید چیزی کلی یاد می‌گرفت،

but that it hasn't really fully yet learned that,

اما واقعاً هنوز به طور کامل یاد نگرفته است که

Oh, I can sort of generalize this to adding arbitrary numbers

«اوه! من می‌توانم این را به اضافه کردن تعداد دلخواه به طول‌های دلخواه تعمیم دهم.

of arbitrary lengths.

CA: So what's happened here

کریس: پس اتفاقی که افتاد

is that you've allowed it to scale up

این است که به آن اجازه بزرگنمایی و مشاهده‌ تعداد باورنکردنی تکه‌های متن را داده‌اید.

and look at an incredible number of pieces of text.

And it is learning things

و چیزهایی یاد می‌گیرد

that you didn't know that it was going to be capable of learning.

که شما نمی‌دانستید می‌تواند فرا بگیرد.

GB Well, yeah, and it’s more nuanced, too.

گرِگ: خب، آره، و نکات ظریف‌تری نیز دارد.

So one science that we’re starting to really get good at

بنابراین یکی از علومی که در حال پیشرفت در آن هستیم،

is predicting some of these emergent capabilities.

پیش‌بینی برخی از این قابلیت‌های نوظهور است.

And to do that actually,

و برای انجام آن در واقع،

one of the things I think is very undersung in this field

یکی از چیزهایی که به نظرم در این زمینه دست کم گرفته شده،

is sort of engineering quality.

نوعی کیفیت مهندسی است.

Like, we had to rebuild our entire stack.

مثلاً مجبور به بازسازی کل پشته خود شدیم.

When you think about building a rocket,

وقتی می‌خواهیم موشک بسازیم،

every tolerance has to be incredibly tiny.

حاشیه تحمل خطا بسیار ناچیز است،

Same is true in machine learning.

در یادگیری ماشینی هم همینطور است.

You have to get every single piece of the stack engineered properly,

شما باید هر جزء از تکه‌های پشته را به درستی مهندسی کنید،

and then you can start doing these predictions.

و بعد می‌توانید این پیش‌بینی‌ها را انجام دهید.

There are all these incredibly smooth scaling curves.

نمودارهای فوق‌العاده دقیقی وجود دارد.

They tell you something deeply fundamental about intelligence.

آنها گویای چیزهای اساسی و عمیقی در مورد هوش هستند.

If you look at our GPT-4 blog post,

در پستی از بلاگ جی‌پی‌تی-۴،

you can see all of these curves in there.

می توانید این منحنی‌ها را آنجا ببینید.

And now we're starting to be able to predict.

و اکنون می‌توانیم پیش‌بینی کنیم.

So we were able to predict, for example, the performance on coding problems.

از این رو توانستیم، برای مثال، عملکرد مشکلات کدنویسی را پیش‌بینی کنیم.

We basically look at some models

اساساً به مدل‌هایی نگاه می‌کنیم

that are 10,000 times or 1,000 times smaller.

که ده هزار برابر یا هزار برابر کوچک‌تر هستند.

And so there's something about this that is actually smooth scaling,

و بنابراین ما یک انتقال آرام به مقیاس داریم،

even though it's still early days.

حتی اگر صرفاً در مراحل اولیه باشیم.

CA: So here is, one of the big fears then,

کریس: پس این یکی از بزرگترین ترس‌هایی است

that arises from this.

که این موضوع ایجاد می‌کند.

If it’s fundamental to what’s happening here,

در حالی که واضح است

that as you scale up,

که با توسعه این مدل،

things emerge that

چیزهایی ظاهر می‌شوند که

you can maybe predict in some level of confidence,

ممکن است بتوانید با اطمینان خاطر خاصی پش‌بینی کنید،

but it's capable of surprising you.

اما همچنان می‌تواند شما را غافلگیر کند.

Why isn't there just a huge risk of something truly terrible emerging?

آیا این خطر وجود ندارد که اتفاق جداً وحشتناکی پیش آید؟

GB: Well, I think all of these are questions of degree

گرِگ: خب، فکر می‌کنم همه این‌ها سؤالاتی در مورد درجه،

and scale and timing.

مقیاس و زمان است.

And I think one thing people miss, too,

و همچنین فکر می‌کنم آنچه مردم نمی‌بینند

is sort of the integration with the world is also this incredibly emergent,

نوعی یکپارچگی نوظهور با جهان است

sort of, very powerful thing too.

که چیز خیلی قدرتمندی هم هست.

And so that's one of the reasons that we think it's so important

و این یکی از دلایلی است که معتقدیم پیاده‌سازی تدریجی هوش مصنوعی مهم است.

to deploy incrementally.

And so I think that what we kind of see right now, if you look at this talk,

و بنابراین به نظرم آنچه اکنون می‌بینیم، اگر به این سخنرانی نگاه کنید،

a lot of what I focus on is providing really high-quality feedback.

من روی ارائه بازخورد بسیار با کیفیت تمرکز دارم.

Today, the tasks that we do, you can inspect them, right?

امروزه، قادریم کارهایی که می‌کنیم را مرور کنیم، درست است؟

It's very easy to look at that math problem and be like, no, no, no,

خیلی آسان است که به آن مسئله ریاضی نگاه کنید و بگویید: «نه، نه، نه،

machine, seven was the correct answer.

ماشین، پاسخ صحیح عدد هفت بود.»

But even summarizing a book, like, that's a hard thing to supervise.

اما حتی خلاصه کردن یک کتاب، مثلاً، نظارت بر آن کار سختی است.

Like, how do you know if this book summary is any good?

مثلاً از کجا می‌دانید که این خلاصه از کتاب خوب است؟

You have to read the whole book.

شما باید کل کتاب را بخوانید.

No one wants to do that.

کسی این کار را نمی‌کند.

(Laughter)

(خنده‌ مجریان و بینندگان)

And so I think that the important thing will be that we take this step by step.

و بنابراین فکر می‌کنم که مهم این است که قدم به قدم این کار را انجام دهیم.

And that we say, OK, as we move on to book summaries,

و تصمیم می‌گیریم سراغ خلاصه کتاب‌ها برویم،

we have to supervise this task properly.

باید به درستی بر آن نظارت کنیم.

We have to build up a track record with these machines

باید با این دستگاه‌ها سابقه‌ای ایجاد کنیم

that they're able to actually carry out our intent.

که آن‌ها بتوانند واقعاً هدف ما را اجرایی کنند.

And I think we're going to have to produce even better, more efficient,

و فکر می‌کنم که باید اقدام به خلق راهکارهای بهتر، کارآمدتر،

more reliable ways of scaling this,

مطمئن‌تری برای مقیاس‌بندی آن کنیم،

sort of like making the machine be aligned with you.

به طوری که دستگاه با شما هماهنگ شود.

CA: So we're going to hear later in this session,

کریس: پس قرار است بعد از این جلسه از منتقدانی بشنویم که می‌گویند:

there are critics who say that,

you know, there's no real understanding inside,

«می‌دانید، هیچ درک واقعی در درون وجود ندارد،

the system is going to always --

سیستم همیشه...

we're never going to know that it's not generating errors,

ما هرگز نمی‌دانیم که خطا ایجاد نمی‌کند،

that it doesn't have common sense and so forth.

اینکه عقل سلیم ندارد و غیره.

Is it your belief, Greg, that it is true at any one moment,

اگر این باور شماست، گرِگ، که آن نیز کاملاً درست است،

but that the expansion of the scale and the human feedback

اما گسترش مقیاس و بازخورد انسانی

that you talked about is basically going to take it on that journey

که در مورد آن صحبت کردید، اساساً آن را به سفری می‌برد

of actually getting to things like truth and wisdom and so forth,

که در واقع به چیزهایی مانند حقیقت و حکمت و دیگر موارد مشابه می‌رسد،

with a high degree of confidence.

آن هم با درجه‌ی بالایی از اطمینان.

Can you be sure of that?

آیا از آن اطمینان دارید؟

GB: Yeah, well, I think that the OpenAI, I mean, the short answer is yes,

گرِگ: بله، خب، به نظرم که اُپن‌ای‌آی... یعنی پاسخ کوتاه این است که بله،

I believe that is where we're headed.

معتقدم که ما به این سمت می‌رویم.

And I think that the OpenAI approach here has always been just like,

و به نظرم رویکرد اُپن‌ای‌آی در اینجا همیشه

let reality hit you in the face, right?

رویارویی ما با واقعیت بوده است، خب؟

It's like this field is the field of broken promises,

انگار که این ناحیه، ناحیه‌ی وعده‌های شکسته است،

of all these experts saying X is going to happen, Y is how it works.

و کارشناسانی که می‌گویند فلان رخ می‌دهد، بهمان نحوه‌ی کار آن است.

People have been saying neural nets aren't going to work for 70 years.

مردم هفتاد سال است که می‌گویند شبکه‌های عصبی کار نمی‌کنند.

They haven't been right yet.

آنها هنوز درست نشده‌اند.

They might be right maybe 70 years plus one

شاید درست باشد، شاید هفتاد به اضافه یک سال

or something like that is what you need.

یا چیزی شبیه به آن نیاز داشته باشید.

But I think that our approach has always been,

اما به نظرم رویکرد ما همیشه این بوده است،

you've got to push to the limits of this technology

شما باید به محدودیت‌های این فناوری فشار بیاورید

to really see it in action,

تا آن را در عمل ببینید،

because that tells you then, oh, here's how we can move on to a new paradigm.

زیرا این به شما می‌گوید: اوه! این نحوه‌ی حرکت به یک الگوی جدید است.

And we just haven't exhausted the fruit here.

ما هنوز همه احتمالات را بررسی نکرده‌ایم.

CA: I mean, it's quite a controversial stance you've taken,

کریس: خب، این موضعی که اتخاذ کردید، کاملاً بحث‌برانگیز است

that the right way to do this is to put it out there in public

که راه درست انجامش این است که آن را در معرض دید عموم قرار دهید

and then harness all this, you know,

و از آن بهره‌برداری کنید، می‌دانید،

instead of just your team giving feedback,

به جای اینکه تیم شما فقط بازخورد بدهد،

the world is now giving feedback.

اکنون دنیا دارد بازخورد می‌دهد.

But ...

اما...

If, you know, bad things are going to emerge,

اگر، می‌دانید، چیزهای بدی قرار است ظهور کند،

it is out there.

از قبل وجود دارد.

So, you know, the original story that I heard on OpenAI

بنابراین، می‌دانید، داستان اصلی که من از اُپن‌ای‌آی شنیدم،

when you were founded as a nonprofit,

شما به عنوان سازمانی غیرانتفاعی

well you were there as the great sort of check on the big companies

آمدید تا به عنوان بررسی‌گری خوب، شرکت‌های بزرگی را مورد بررسی قرار دهید

doing their unknown, possibly evil thing with AI.

که کارهای ناشناخته و احتمالاً شیطانی خود را با هوش مصنوعی انجام می‌دهند.

And you were going to build models that sort of, you know,

و شما می‌خواستید مدل‌هایی بسازید که به نوعی آنها را مسئول می‌دانستند

somehow held them accountable

and was capable of slowing the field down, if need be.

و می‌توانستند سرعت این حوزه را کاهش دهند، در صورت نیاز.

Or at least that's kind of what I heard.

یا حداقل این چیزی است که من شنیدم.

And yet, what's happened, arguably, is the opposite.

و همچنان، آنچه رخ داده است، برعکس آن بوده است.

That your release of GPT, especially ChatGPT,

معرفی جی‌پی‌تی شما، به خصوص چت‌جی‌پی‌تی،

sent such shockwaves through the tech world

چنان موجی از شوک در دنیای فناوری ایجاد کرد

that now Google and Meta and so forth are all scrambling to catch up.

که اکنون شرکت‌های گوگل و متا و غیره، همگی در تلاش برای رسیدن به آن هستند.

And some of their criticisms have been,

و برخی از انتقادات آنها این بوده است

you are forcing us to put this out here without proper guardrails or we die.

که شما آنها را مجبور می‌کنید این موضوع را

بدون وجود راه نجات مناسبی مطرح کنند، وگرنه مرده‌اند.

You know, how do you, like,

می دانید، چگونه می‌توانید

make the case that what you have done is responsible here and not reckless.

به این نتیجه برسید که کاری که کرده‌اید قابل اعتماد و بافکر بوده است.

GB: Yeah, we think about these questions all the time.

گرگ: بله، ما همیشه به این سؤالات فکر می‌کنیم.

Like, seriously all the time.

به طور جدی همیشه.

And I don't think we're always going to get it right.

و فکر نمی‌کنم که همیشه آن را درست انجام دهیم.

But one thing I think has been incredibly important,

اما فکر می‌کنم یک چیز فوق‌العاده مهم بوده است،

from the very beginning, when we were thinking

از همان ابتدا، زمانی که به این فکر می‌کردیم

about how to build artificial general intelligence,

که چگونه هوش عمومی مصنوعی بسازیم،

actually have it benefit all of humanity,

که در واقع، به نفع تمام بشریت باشد،

like, how are you supposed to do that, right?

اینکه چگونه قرار است این کار را بکنید، نه؟

And that default plan of being, well, you build in secret,

و آن طرحِ پیش‌فرضِ بودن، خب، مخفیانه می‌سازید،

you get this super powerful thing,

این چیز قدرتمند را بدست می‌آورید،

and then you figure out the safety of it and then you push “go,”

و بعد امنیت آن را ارزیابی می‌کنید و سپس «برو» را فشار می‌دهید،

and you hope you got it right.

و امیدوارید چیزها خوب پیش رود.

I don't know how to execute that plan.

نمی‌دانم چگونه این طرح را اجرا کنم.

Maybe someone else does.

شاید شخص دیگری بداند.

But for me, that was always terrifying, it didn't feel right.

اما برای من، این همیشه وحشتناک بود، احساس درستی نداشت.

And so I think that this alternative approach

و بنابراین فکر می‌کنم که این رویکرد جایگزین

is the only other path that I see,

تنها راه دیگری است که سراغ دارم،

which is that you do let reality hit you in the face.

اینکه اجازه می‌دهید واقعیت به چهره‌ی شما ضربه بزند.

And I think you do give people time to give input.

و به نظرم شما به مردم زمان می‌دهید تا نظر بدهند.

You do have, before these machines are perfect,

خب، قبل از اینکه این ماشین‌ها بی‌نقص باشند،

before they are super powerful, that you actually have the ability

قبل از اینکه بسیار قدرتمند باشند، جداً این توانایی را دارید

to see them in action.

آنها را در عمل ببینید.

And we've seen it from GPT-3, right?

ما آن را از چی‌پی‌تی-۳ دیدیم، خب؟

GPT-3, we really were afraid

جی‌پی‌تی-۳، جداً می‌ترسیدیم

that the number one thing people were going to do with it

که مبادا اولین کاری که مردم قرار است با آن بکنند

was generate misinformation, try to tip elections.

تولید اطلاعات نادرست و اثرگذاری بر انتخابات باشد.

Instead, the number one thing was generating Viagra spam.

هرچند، اولین کاری که کردند ایجاد هرزنامه‌ ویاگرا بود.

(Laughter)

(خنده)

CA: So Viagra spam is bad, but there are things that are much worse.

کریس: هرزنامه ویاگارا بد است، اما چیزهای بدتری هم وجود دارد.

Here's a thought experiment for you.

اینجا یک آزمایش فکری برای شما داریم.

Suppose you're sitting in a room,

فرض کنید در اتاقی نشسته‌اید،

there's a box on the table.

جعبه‌ای روی میز است.

You believe that in that box is something that,

شما معتقدید که در آن جعبه چیزی است که

there's a very strong chance it's something absolutely glorious

به احتمال بسیار زیاد چیزی کاملاً باشکوه است

that's going to give beautiful gifts to your family and to everyone.

که هدایای زیبایی به خانواده‌ی شما و به همه بدهد.

But there's actually also a one percent thing in the small print there

اما در واقع به احتمال ۱ درصد، چاپی ظریف روی آن وجود دارد

that says: “Pandora.”

که نوشته است: «پاندورا».

And there's a chance

و این احتمال وجود دارد

that this actually could unleash unimaginable evils on the world.

که واقعاً می‌تواند شرارت‌های غیرقابل تصوری را در جهان ایجاد کند.

Do you open that box?

آیا آن جعبه را باز می‌کنید؟

GB: Well, so, absolutely not.

گرِگ: خب، قطعاً خیر.

I think you don't do it that way.

به نظرم این کار را نمی‌کنید.

And honestly, like, I'll tell you a story that I haven't actually told before,

و صادقانه بگویم، داستانی را تعریف می‌کنم که قبلاً نگفته بودم،

which is that shortly after we started OpenAI,

اینکه مدت کوتاهی پس از شروع اُپن‌ای‌آی،

I remember I was in Puerto Rico for an AI conference.

یادم است برای یک کنفرانس هوش مصنوعی، در پورتوریکو بودم.

I'm sitting in the hotel room just looking out over this wonderful water,

در اتاق هتل نشسته‌ بودم و فقط به آب بی‌نظیر نگاه می‌کردم،

all these people having a good time.

همگان اوقات خوبی را سپری می‌کردند.

And you think about it for a moment,

و برای لحظه‌ای به آن فکر می‌کنید

if you could choose for basically that Pandora’s box

که اگر بتوانید اساساً جعبه پاندورا را انتخاب کنید

to be five years away

که پنج سال یا پانصد سال شما را در زمان جابه‌جا کند،

or 500 years away,

which would you pick, right?

کدام را انتخاب می‌کنید، خب؟

On the one hand you're like, well, maybe for you personally,

از یک طرف به خود می‌گویید: «خب، شاید برای شخص شما،

it's better to have it be five years away.

بهتر است پنج سال دیگر باشد.»

But if it gets to be 500 years away and people get more time to get it right,

اگر طی پانصد سال فاصله، مردم زمان بیشتری برای انجام درست آن داشته باشند،

which do you pick?

کدام را انتخاب می‌کنید؟

And you know, I just really felt it in the moment.

و می‌دانید، من واقعاً آن را در لحظه احساس کردم.

I was like, of course you do the 500 years.

با خود گفتم: «البته که پانصد سال.»

My brother was in the military at the time

برادر من در آن زمان در ارتش بود

and like, he puts his life on the line in a much more real way

و مانند آن، او زندگی خود را بسیار واقعی‌تر

than any of us typing things in computers

از ما به خطر انداخت که آن موقع مشغول تایپ در کامپیوتر

and developing this technology at the time.

و توسعه‌ی این فناوری بودیم‌.

And so, yeah, I'm really sold on the you've got to approach this right.

و خب، بله، متقاعد شدم که باید به درستی با این مسائل برخورد کنم.

But I don't think that's quite playing the field as it truly lies.

من فکر می‌کنم که این بازی با قوانین درست آن انجام نمی‌شود.

Like, if you look at the whole history of computing,

مثلاً، اگر به کل تاریخ محاسبات نگاه کنید،

I really mean it when I say that this is an industry-wide

واقعاً می‌خواهم بگویم که این یک تحول در سطح صنعت

or even just almost like

یا حتی تقریباً شبیه یک تغییر توسعه انسانی در سراسر فناوری است.

a human-development- of-technology-wide shift.

And the more that you sort of, don't put together the pieces

و هر چه بیشتر بخواهید قطعات موجود را کنار هم نگذارید، خب،

that are there, right,

we're still making faster computers,

ما باز کامپیوترهای تندتری می‌سازیم،

we're still improving the algorithms, all of these things, they are happening.

و در حال بهبود الگوریتم‌هاییم، تمام این چیزها‌ جاری هستند.

And if you don't put them together, you get an overhang,

اگر عناصر را به هم وصل نکنیم، رشد بیش از حدی رخ می‌دهد،

which means that if someone does,

یعنی که اگر کسی این کار را بکند،

or the moment that someone does manage to connect to the circuit,

یا لحظه‌ای که یک نفر موفق شود به مدار متصل شود،

then you suddenly have this very powerful thing,

ناگهان چیزی بسیار قدرتمند را خواهید داشت

no one's had any time to adjust,

که هیچ کس برای آن آمادگی ندارد،

who knows what kind of safety precautions you get.

کسی نمی‌داند چه تدابیر احتیاطی در کار خواهد داشت.

And so I think that one thing I take away

و فکر می‌کنم طبق نتیجه‌گیری من

is like, even you think about development of other sort of technologies,

با در نظر گرفتن توسعه‌ی سایر فناوری‌ها، مثلاً سلاح هسته‌ای را در نظر بگیریم،

think about nuclear weapons,

people talk about being like a zero to one,

مردم وقتی صحبت از پتانسیل انسانی می‌شود، تغییرات را صفر و یک می‌بینند.

sort of, change in what humans could do.

But I actually think that if you look at capability,

اما فکر می‌کنم که اگر نگاهی به ظرفیت‌ها بیندازید،

it's been quite smooth over time.

در طول زمان کاملاً ثابت بوده است.

And so the history, I think, of every technology we've developed

و خب به نظرم تاریخچه‌ی هر فناوری‌ای که ما توسعه داده‌ایم

has been, you've got to do it incrementally

بدین شرح است: باید آن را تدریجاً پیش ببرید

and you've got to figure out how to manage it

و باید دریابید که در عین بزرگتر‌ کردن‌اش، چگونه آن را مدیریت کنید.

for each moment that you're increasing it.

CA: So what I'm hearing is that you ...

کریس: پس چیزی که شنیدم این بود که شما...

the model you want us to have

مدلی که می‌خواهید ما داشته باشیم

is that we have birthed this extraordinary child

این است که کودکی خارق‌العاده به دنیا آورده‌ایم

that may have superpowers

که می‌تواند قدرت‌ فوق‌العاده‌ای داشته باشد

that take humanity to a whole new place.

که بشریت را به مکانی کاملاً جدید می‌برد.

It is our collective responsibility to provide the guardrails

این وظیفه جمعی ماست که نقطه امنی را برای این کودک فراهم کنیم

for this child

to collectively teach it to be wise and not to tear us all down.

تا به طور جمعی به او بیاموزیم عاقل باشد و همه ما را خراب نکند.

Is that basically the model?

آیا اساساً این مدل است؟

GB: I think it's true.

گرِگ: به نظرم درست است.

And I think it's also important to say this may shift, right?

و به نظرم مهم است که بگوییم این ممکن است تغییر کند، درست است؟

We've got to take each step as we encounter it.

ما باید هر قدمی که با آن روبرو می‌شویم را برداریم.

And I think it's incredibly important today

و من فکر می‌کنم امروز بسیار مهم است

that we all do get literate in this technology,

که همه ما در این فناوری سواد داشته باشیم،

figure out how to provide the feedback,

نحوه‌ی ارائه بازخورد را بیابیم،

decide what we want from it.

بدانیم از آن چه می‌خواهیم.

And my hope is that that will continue to be the best path,

و من امیدوارم که این مسیرِ درست ادامه پیدا کند،

but it's so good we're honestly having this debate

اما خیلی خوب است که حقیقتاً ما این بحث را داریم،

because we wouldn't otherwise if it weren't out there.

زیرا چت‌جی‌پی‌تی را منتشر نمی‌کردیم، این بحث هم نمی‌بود.

CA: Greg Brockman, thank you so much for coming to TED and blowing our minds.

کریس: گرِگ براکمن، متشکرم که به TED تشریف آوردید و هوش از سر ما پراندید.

(Applause)

(تشویق بینندگان)