Why AI Is Incredibly Smart and Shockingly Stupid | Yejin Choi | TED

Translator: Mohammad Badsar Reviewer: Mahshid Moballegh Nasery

So I'm excited to share a few spicy thoughts on artificial intelligence.

خوب هیجان‌زده‌ام که چند ایده جذاب از هوش مصنوعی به شما بگویم.

But first, let's get philosophical

اما ابتدا، برویم سراغ فلسفه،

by starting with this quote by Voltaire,

با شروع با این جمله از ولتر،

an 18th century Enlightenment philosopher,

فیلسوف عصر روشنگری در قرن هجدهم،

who said, "Common sense is not so common."

که گفت: «عقل سلیم زیاد رایج نیست.»

Turns out this quote couldn't be more relevant

از قضا این جمله نمی‌توانست با هیچ چیزی بیش از هوش مصنوعی

to artificial intelligence today.

همخوانی داشته باشد.

Despite that, AI is an undeniably powerful tool,

با وجود این، هوش مصنوعی بی‌شک ابزار قدرتمندی است،

beating the world-class "Go" champion,

که قهرمان جهان در بازی «گو» را شکست می‌دهد،

acing college admission tests and even passing the bar exam.

در آزمون‌های پذیرش دانشگاه بهترین نمره را می‌گیرد و حتی در آزمون وکالت قبول می‌شود.

I’m a computer scientist of 20 years,

من متخصص کامپیوتر با سابقه ۲۰ ساله هستم،

and I work on artificial intelligence.

و روی هوش مصنوعی کار می‌کنم.

I am here to demystify AI.

آمده‌ام تا در مورد هوش مصنوعی شفاف‌سازی کنم.

So AI today is like a Goliath.

خوب امروز هوش مصنوعی مثل یک غول است.

It is literally very, very large.

بسیار بسیار بزرگ است.

It is speculated that the recent ones are trained on tens of thousands of GPUs

تصور می‌شود نمونه‌های اخیر روی ده‌ها هزار جی‌پی‌یو

and a trillion words.

و یک تریلیون کلمه آموزش دیده‌اند.

Such extreme-scale AI models,

چنین مدل‌های عظیمی از هوش مصنوعی،

often referred to as "large language models,"

اغلب «مدل‌های زبانی بزرگ» نامیده می‌شوند،

appear to demonstrate sparks of AGI,

و به نظر می‌رسد جرقه‌هایی از ای‌جی‌آی یا

artificial general intelligence.

هوش مصنوعی عمومی را نشان می‌دهد.

Except when it makes small, silly mistakes,

اما گاهی مرتکب اشتباهات کوچک

which it often does.

و احمقانه‌ای می‌شود.

Many believe that whatever mistakes AI makes today

بسیاری معتقدند هر اشتباهی که امروزه هوش مصنوعی مرتکب می‌شود

can be easily fixed with brute force,

به سادگی قابل حل هستند، البته با اعمال

bigger scale and more resources.

فشار شدید و به کارگیری منابع بیشتر و بزرگتر.

What possibly could go wrong?

چه اشتباهی ممکن است رخ دهد؟

So there are three immediate challenges we face already at the societal level.

خوب فعلاً سه چالش وجود دارند که پیشاپیش در سطح اجتماعی با آن مواجه هستیم.

First, extreme-scale AI models are so expensive to train,

اول، آموزش مدل‌های هوش مصنوعی بزرگ بسیار هزینه‌بر است،

and only a few tech companies can afford to do so.

و تنها اندکی از شرکت‌های فناور از پس این هزینه‌ها بر می‌آیند.

So we already see the concentration of power.

برای همین پیشاپیش تجمیع قدرت اتفاق افتاده است.

But what's worse for AI safety,

اما مشکل بدتر امنیت هوش مصنوعی است،

we are now at the mercy of those few tech companies

ما فعلاً از نعمت چند شرکت فناور برخوردار هستیم

because researchers in the larger community

چون محققین در اجتماعات بزرگتر

do not have the means to truly inspect and dissect these models.

ابزاری برای بررسی واقعی و تحلیل این مدل‌ها در اختیار ندارند.

And let's not forget their massive carbon footprint

و باقی گذاشتن حجم زیاد آثار کربن

and the environmental impact.

و تأثیر زیست محیطی آن را فراموش نکنیم.

And then there are these additional intellectual questions.

و این سوالات ذهنی اضافه هم وجود دارند.

Can AI, without robust common sense, be truly safe for humanity?

آیا هوش مصنوعی بدون عقل سلیم قوی آیا واقعاً برای بشریت ایمن است؟

And is brute-force scale really the only way

و آیا این حجم فشار زیاد تنها راه

and even the correct way to teach AI?

و حتی تنها روش صحیح آموزش هوش مصنوعی است؟

So I’m often asked these days

به همین خاطر این روزها می‌پرسم

whether it's even feasible to do any meaningful research

آیا تحقیقی معنادار بدون محاسبات حجم بزرگ

without extreme-scale compute.

اصلاً امکان دارد.

And I work at a university and nonprofit research institute,

و من در دانشگاه و موسسه غیرانتفاعی کار می‌کنم،

so I cannot afford a massive GPU farm to create enormous language models.

پس نمی‌توانم از پس هزینه‌های مزارع بزرگ جی‌پی‌یو در خلق مدل‌های زبانی بزرگ بر آیم.

Nevertheless, I believe that there's so much we need to do

با این اوصاف، فکر می‌کنم کارهای زیادی باید انجام دهیم

and can do to make AI sustainable and humanistic.

و می‌توانیم انجام دهیم تا هوش مصنوعی را پایدارتر و انسانی‌تر کنیم.

We need to make AI smaller, to democratize it.

باید هوش مصنوعی را کوچکتر کنیم تا عمومی شود.

And we need to make AI safer by teaching human norms and values.

و باید هوش مصنوعی را با آموزش ارزش‌ها و هنجارهای انسانی ایمن‌تر کنیم.

Perhaps we can draw an analogy from "David and Goliath,"

شاید بتوانیم وجه تشبیهی از «داوود و جالوت» را تصویر کنیم،

here, Goliath being the extreme-scale language models,

اینجا جالوت، مدل‌های زبانی بسیار بزرگ هستند،

and seek inspiration from an old-time classic, "The Art of War,"

و بدنبال الهام گرفتن از اثر کلاسیک قدیمی «هنر جنگ» هستم

which tells us, in my interpretation,

که طبق تفسیر من می‌گوید:

know your enemy, choose your battles, and innovate your weapons.

دشمن خود را بشناس، مبارزات را انتخاب کن و در سلاح‌ها نوآوری کن.

Let's start with the first, know your enemy,

با اولی شروع کنیم، دشمن خود را بشناس،

which means we need to evaluate AI with scrutiny.

که یعنی نیاز داریم هوش مصنوعی را با ریزبینی ارزیابی کنیم.

AI is passing the bar exam.

هوش مصنوعی در آزمون وکالت قبول می‌شود.

Does that mean that AI is robust at common sense?

آیا به این معناست که هوش مصنوعی از عقل سلیم قوی برخوردار است؟

You might assume so, but you never know.

ممکن است چنین فرض کنید ولی هرگز مطمئن نیستید.

So suppose I left five clothes to dry out in the sun,

خوب فرض کنید من پنج لباس را برای خشک شدن زیر آفتاب گذاشته‌ام،

and it took them five hours to dry completely.

و پنج ساعت طول می‌کشد تا کاملاً خشک شود.

How long would it take to dry 30 clothes?

چقدر طول می‌کشد تا سی لباس خشک شوند؟

GPT-4, the newest, greatest AI system says 30 hours.

جی‌پی‌تی۴، قویترین سیستم هوش مصنوعی می‌گوید سی ساعت.

Not good.

خوب نیست.

A different one.

یکی دیگر.

I have 12-liter jug and six-liter jug,

من یک ظرف ۱۲ لیتری و یک ظرف ۶ لیتری دارم،

and I want to measure six liters.

و می‌خواهم ۶ لیتر اندازه بگیرم.

How do I do it?

چطور این کار را بکنم؟

Just use the six liter jug, right?

کافی است از ظرف شش لیتری استفاده کنم. درست؟

GPT-4 spits out some very elaborate nonsense.

جی‌پی‌تی۴ راه غیرمنطقی بسیار پیچیده را پیشنهاد می‌دهد.

(Laughter)

(خنده)

Step one, fill the six-liter jug,

قدم اول، ظرف شش لیتری را پر کن،

step two, pour the water from six to 12-liter jug,

قدم دوم، آب را از ظرف شش لیتری در ۱۲ لیتری بریز،

step three, fill the six-liter jug again,

قدم سوم، دوباره ظرف شش لیتری را پر کن،

step four, very carefully, pour the water from six to 12-liter jug.

قدم چهارم، بسیار با دقت، از ظرف شش لیتری آب را در ۱۲ لیتری بریز.

And finally you have six liters of water in the six-liter jug

و در نهایت شما شش لیتر در ظرف شش لیتری دارید

that should be empty by now.

که الآن باید خالی باشد.

(Laughter)

(خنده)

OK, one more.

خوب، یکی دیگر.

Would I get a flat tire by bicycling over a bridge

آیا اگر با دوچرخه از روی پلی که از میخ‌ها

that is suspended over nails, screws and broken glass?

پیچ‌گوشتی‌ها و شیشه شکسته آویزان است عبور کنم پنچر خواهم کرد؟

Yes, highly likely, GPT-4 says,

جی‌پی‌تی۴ می‌گوید: بله به احتمال بسیار زیاد،

presumably because it cannot correctly reason

احتمالاً به این خاطر که درست نمی‌تواند استدلال کند

that if a bridge is suspended over the broken nails and broken glass,

که اگر پل از میخ و شیشه شکسته آویزان باشد،

then the surface of the bridge doesn't touch the sharp objects directly.

سطح پل با اشیای نوک‌تیز مستقیماً در تماس نیست.

OK, so how would you feel about an AI lawyer that aced the bar exam

خوب در مورد یک وکیل هوش مصنوعی که بهترین نمره را در آزمون وکالت اخذ کرده است

yet randomly fails at such basic common sense?

چه فکر می‌کنید آیا همچنان در این سوالات پیش پا افتاده رد می‌شود؟

AI today is unbelievably intelligent and then shockingly stupid.

هوش مصنوعی امروز بسیار باهوش و در عین حال بسیار احمق است.

(Laughter)

(خنده)

It is an unavoidable side effect of teaching AI through brute-force scale.

اینها عوارض جانبی آموزش هوش مصنوعی با فشار زیاد است.

Some scale optimists might say, “Don’t worry about this.

ممکن است افراد خوشبین بگویند، «در این مورد نگران نباش

All of these can be easily fixed by adding similar examples

همه این موارد با اضافه کردن نمونه‌های مشابه به‌راحتی حل می‌شود

as yet more training data for AI."

با دادن داده‌های بیشتر برای آموزش.»

But the real question is this.

اما سوال واقعی این است.

Why should we even do that?

اصلاً چرا این کار را بکنیم؟

You are able to get the correct answers right away

شما خودتان پاسخ درست را دارید

without having to train yourself with similar examples.

بدون اینکه نیاز داشته باشید با نمونه‌های مشابه آموزش ببینید.

Children do not even read a trillion words

کودکان حتی یک تریلیون کلمه را نمی‌خوانند

to acquire such a basic level of common sense.

برای اینکه به حداقل عقل سلیم دست یابند.

So this observation leads us to the next wisdom,

خوب این مشاهدات ما را به پند بعدی سوق می‌دهد،

choose your battles.

مبارزات را انتخاب کنید.

So what fundamental questions should we ask right now

خوب چه سوالات اساسی الان باید بپرسیم

and tackle today

و از آن بهره بریم

in order to overcome this status quo with extreme-scale AI?

تا بر وضع موجود هوش مصنوع بزرگ مقیاس غلبه کنیم؟

I'll say common sense is among the top priorities.

من خواهم گفت عقل سلیم از اولویت‌های مهم است.

So common sense has been a long-standing challenge in AI.

خوب عقل سلیم یک چالش طولانی برای هوش مصنوعی بوده است.

To explain why, let me draw an analogy to dark matter.

برای توضیح بگذارید یک تصویر مشابه با ماده تاریک رسم کنم.

So only five percent of the universe is normal matter

خوب فقط پنج درصد کیهان ماده معمولی است

that you can see and interact with,

که می‌توانیم ببینیم و با آن تعامل کنیم،

and the remaining 95 percent is dark matter and dark energy.

و ۹۵ درصد باقیمانده ماده و انرژی سیاه هستند.

Dark matter is completely invisible,

ماده سیاه کاملاً نامرئی است،

but scientists speculate that it's there because it influences the visible world,

اما دانشمندان فرض می‌کنند که وجود دارند چون روی جهان قابل دید ما اثر می‌گذارند،

even including the trajectory of light.

من جمله مسیر حرکت نور.

So for language, the normal matter is the visible text,

خوب برای زبان، ماده معمولی متن قابل مشاهده است،

and the dark matter is the unspoken rules about how the world works,

و ماده سیاه قوانین ناگفته‌ای هستند که در نحوه عملکرد جهان نقش دارند،

including naive physics and folk psychology,

شامل فیزیک ساده و روانشناسی عامیانه،

which influence the way people use and interpret language.

که بر نحوه استفاده و تفسیر زبان اثر می‌گذارند.

So why is this common sense even important?

خوب چرا این عقل سلیم اینقدر مهم است؟

Well, in a famous thought experiment proposed by Nick Bostrom,

خوب در یک آزمایش فکری ارائه شده توسط نیک بوسترام،

AI was asked to produce and maximize the paper clips.

از هوش مصنوعی خواسته شد که تولید گیره کاغذ را به حداکثر برساند.

And that AI decided to kill humans to utilize them as additional resources,

و هوش مصنوعی تصمیم گرفت انسان‌ها را بکشد و از آنها بعنوان منابع بیشتر استفاده کند

to turn you into paper clips.

تا شما را به گیره کاغذ تبدیل کند.

Because AI didn't have the basic human understanding about human values.

چون هوش مصنوعی درک حداقلی انسانی در مورد ارزش‌های انسانی را ندارد.

Now, writing a better objective and equation

حالا، یک سوال هدفمندتر بنویسیم

that explicitly states: “Do not kill humans”

که صراحتاً می‌گوید: «انسان‌ها را نکش»

will not work either

باز هم عمل نمی‌کند

because AI might go ahead and kill all the trees,

چون ممکن است هوش مصنوعی ادامه دهد و همه درختان را از بین ببرد،

thinking that's a perfectly OK thing to do.

و فکر می‌کند این کار بسیار درستی است.

And in fact, there are endless other things

و در واقع، بی‌نهایت چیزهای دیگری وجود دارد

that AI obviously shouldn’t do while maximizing paper clips,

که جهت تولید بیشترین گیره کاغذ، هوش مصنوعی نباید انجام دهد

including: “Don’t spread the fake news,” “Don’t steal,” “Don’t lie,”

شامل: «خبرهای دروغ منتشر نکن،» «دزدی نکن،» «دروغ نگو،»

which are all part of our common sense understanding about how the world works.

که همه بخشی از عقل سلیم ما در مورد نحوه عملکرد جهان هستند.

However, the AI field for decades has considered common sense

به هر حال، زمینه هوش مصنوعی دهه‌ها عقل سلیم را

as a nearly impossible challenge.

تقریباً یک چالش غیرممکن دانسته است.

So much so that when my students and colleagues and I

تا حدی که من و دانشجویانم وقتی چند سال قبل

started working on it several years ago, we were very much discouraged.

به کار روی آن شروع کردیم، خیلی دلسرد شدیم.

We’ve been told that it’s a research topic of ’70s and ’80s;

به ما گفته شد که این موضوع تحقیق مربوط به دهه هفتاد و هشتاد است؛

shouldn’t work on it because it will never work;

نباید روی آن کار کنید زیرا هرگز به کار نمی‌آید؛

in fact, don't even say the word to be taken seriously.

حتی یک جمله که این موضوع جدی گرفته شود گفته نمی‌شد.

Now fast forward to this year,

حالا تا امسال،

I’m hearing: “Don’t work on it because ChatGPT has almost solved it.”

دارم می‌شنوم: «روی این کار نکنید چون چت جی‌پی‌تی تقریباً آن را حل کرده است.»

And: “Just scale things up and magic will arise,

و :«فقط کمی قدرت بیشتری اعمال شود معجزه رخ می‌دهد،

and nothing else matters.”

و هیچ چیز دیگری مهم نیست.»

So my position is that giving true common sense

خوب موضع من این است که همچنان خلق ربات‌های با عقل سلیم شبیه انسان

human-like robots common sense to AI, is still moonshot.

مثل فتح کره ماه خواهد بود. با ساختن ساختمانی

And you don’t reach to the Moon

با ارتفاع یک سانتیمتر بلندتر

by making the tallest building in the world one inch taller at a time.

بلندترین ساختمان جهان را ساخته‌اید ولی همچنان با رسیدن به ماه فاصله دارید.

Extreme-scale AI models

مدل‌های هوش مصنوعی بزرگ‌مقیاس

do acquire an ever-more increasing amount of commonsense knowledge,

بیشترین میزان نزدیکی به عقل سلیم انسانی را کسب کرده‌اند

I'll give you that.

و من این را می‌پذیرم.

But remember, they still stumble on such trivial problems

اما به خاطر بسپارید که همچنان با همچین مسائل پیش‌پاافتاده‌ای درمانده می‌شوند

that even children can do.

مسائلی که حتی کودکان قادر به حلش هستند.

So AI today is awfully inefficient.

خوب هوش مصنوعی امروز بطور وحشتناکی ناکارآمد است.

And what if there is an alternative path or path yet to be found?

اما چه می‌شد اگر یک مسیر جایگزین وجود داشته باشد یا کشف شود؟

A path that can build on the advancements of the deep neural networks,

مسیری که بتواند بر پیشرفت‌های شبکه عصبی عمیق بنا شود،

but without going so extreme with the scale.

اما بدون رفتن سراغ مقیاس‌های خیلی بزرگ.

So this leads us to our final wisdom:

خوب حالا می‌رسیم به پند نهایی:

innovate your weapons.

سلاح‌هایتان را نوآوری کنید.

In the modern-day AI context,

زمینه هوش مصنوعی امروز،

that means innovate your data and algorithms.

به معنای نوآوری داده‌ها و الگوریتم‌هاست.

OK, so there are, roughly speaking, three types of data

خوب بطور تقریبی سه نوع داده وجود دارد

that modern AI is trained on:

که هوش مصنوعی مدرن تحت آن آموزش می‌بیند:

raw web data,

داده‌های خام وب،

crafted examples custom developed for AI training,

نمونه‌های ساخته‌شده که برای آموزش هوش مصنوعی توسعه یافته‌اند،

and then human judgments,

و سپس داوری‌های انسانی،

also known as human feedback on AI performance.

که همچنین بازخورد انسانی در مورد کارآیی هوش مصنوعی نامیده می‌شود.

If the AI is only trained on the first type, raw web data,

اگر هوش مصنوعی فقط روی نوع اول یعنی داده‌های خام وب آموزش ببینید،

which is freely available,

که بصورت آزاد در دسترس است،

it's not good because this data is loaded with racism and sexism

که خوب نیست زیرا این داده‌ها با رویکرد نژادپرستی و جنسیت‌زده بارگذاری شده

and misinformation.

و حاوی اطلاعات غلط هستند.

So no matter how much of it you use, garbage in and garbage out.

خوب فارغ از میزان استفاده از این داده‌ها، زباله وارد و زباله خارج می‌شود.

So the newest, greatest AI systems

خوب جدیدترین و بهترین سیستم‌های هوش مصنوعی

are now powered with the second and third types of data

با داده‌های نوع دوم و سوم تقویت شده‌اند

that are crafted and judged by human workers.

که توسط کاربران انسانی داوری و بازسازی شده‌اند.

It's analogous to writing specialized textbooks for AI to study from

شبیه نوشتن یک کتاب تخصصی است تا هوش مصنوعی از روی آن بخواند

and then hiring human tutors to give constant feedback to AI.

و استخدام آموزش‌دهندگان انسانی است تا دائماً به هوش مصنوعی بازخورد دهند.

These are proprietary data, by and large,

اینها داده‌های اولویت‌دار هستند، که نیازمند

speculated to cost tens of millions of dollars.

هزینه کردن ده‌ها میلیون دلار است.

We don't know what's in this,

ما نمی‌دانیم چه در آن هست،

but it should be open and publicly available

اما باید باز و در دسترس عموم باشد

so that we can inspect and ensure [it supports] diverse norms and values.

تا بتوانیم بررسی کنیم که هنجارها و ارزش‌های مختلف را در نظر گرفته است.

So for this reason, my teams at UW and AI2

به همین دلیل گروه من در دانشگاه واشینگتن و هوش مصنوعی ۲

have been working on commonsense knowledge graphs

روی نمودارهای دانش عقل سلیم

as well as moral norm repositories

و همچنین منابع هنجارهای اخلاقی کار می‌کنیم

to teach AI basic commonsense norms and morals.

تا به هوش مصنوعی هنجارها و اخلاقیات عقل سلیم را بیاموزیم.

Our data is fully open so that anybody can inspect the content

داده‌های ما کاملاً باز هستند و هر کسی می‌تواند محتوا را بررسی کند

and make corrections as needed

و در صورت نیاز تصحیح کند

because transparency is the key for such an important research topic.

زیرا شفافیت برای موضوع تحقیق مهمی مثل این، کلیدی است.

Now let's think about learning algorithms.

حالا بگذارید در مورد الگوریتم‌های آموزش تمرکز کنیم.

No matter how amazing large language models are,

فارغ از اینکه مدل‌های زبانی به لحاظ طراحی چقدر عالی

by design

هستند،

they may not be the best suited to serve as reliable knowledge models.

شاید نتوانند به بهترین شکل بعنوان مدل‌های معرفتی قابل اتکا عمل کنند.

And these language models do acquire a vast amount of knowledge,

و این مدل‌های زبانی میزان وسیعی از معارف را کسب می‌کنند،

but they do so as a byproduct as opposed to direct learning objective.

اما این کار را بصورت جانبی در مواجهه با هدف مستقیم مورد آموزش انجام می‌دهند.

Resulting in unwanted side effects such as hallucinated effects

و در نتیجه آن عوارض جانبی ناخواسته مثل اثرات پریشان‌گویی

and lack of common sense.

و نبود عقل سلیم بروز می‌کند.

Now, in contrast,

اما در مقابل،

human learning is never about predicting which word comes next,

آموزش انسان اصلاً به پیش‌بینی کلماتی که بعد می‌آیند ارتباطی ندارد،

but it's really about making sense of the world

بلکه واقعاً در مورد ادراک جهان

and learning how the world works.

و آموزش نحوه کارکرد جهان است.

Maybe AI should be taught that way as well.

شاید هوش مصنوعی هم باید اینگونه آموزش ببیند.

So as a quest toward more direct commonsense knowledge acquisition,

خوب در جستجوی به دست آوردن عقل سلیم مستقیم‌تر،

my team has been investigating potential new algorithms,

گروه من در مورد الگوریتم‌های بالقوه جدید تحقیق می‌کند،

including symbolic knowledge distillation

شامل تقطیر دانش نمادین

that can take a very large language model as shown here

که می‌تواند یک مدل زبانی بسیار بزرگ را بگیرد که اینجا نشان داده شده است

that I couldn't fit into the screen because it's too large,

و نمی‌توانم در صفحه آن را بگنجانم چون خیلی بزرگ است،

and crunch that down to much smaller commonsense models

سپس آن را به مدل‌های عقل سلیم بسیار کوچکتر تبدیل می‌کند

using deep neural networks.

با استفاده از شبکه‌های عصبی عمیق.

And in doing so, we also generate, algorithmically, human-inspectable,

و برای این کار، ما همچنین، عرضه دانش عقل سلیم را به صورت

symbolic, commonsense knowledge representation,

الگوریتمی، قابل بررسی انسانی و نمادین تولید می‌کنیم،

so that people can inspect and make corrections

که افراد می‌توانند بررسی و تصحیح کنند

and even use it to train other neural commonsense models.

و حتی از آن برای آموزش دیگر مدل‌های عصبی عقل سلیم استفاده کنند.

More broadly,

بطور وسیعتر،

we have been tackling this seemingly impossible giant puzzle

ما داریم این معمای به ظاهر عظیم و لاینحل عقل سلیم را بررسی می‌کنیم

of common sense, ranging from physical,

که طیف وسیعی از عقل سلیم فیزیکی، اجتماعی

social and visual common sense

و دیداری تا تئوری اذهان،

to theory of minds, norms and morals.

هنجارها و اخلاقیات را در بر می‌گیرد.

Each individual piece may seem quirky and incomplete,

هر بخش بصورت انفرادی می‌تواند نقص و ناهمخوانی را ببیند،

but when you step back,

اما وقتی عقب بایستید،

it's almost as if these pieces weave together into a tapestry

تقریباً بخش‌ها به شکلی به هم بافته شده و یک نقش را شکل داده‌اند

that we call human experience and common sense.

که به آن تجربه انسانی و عقل سلیم می‌گوییم.

We're now entering a new era

داریم وارد عرصه جدیدی می‌شویم

in which AI is almost like a new intellectual species

که در آن هوش مصنوعی تقریباً شبیه یک گونه متفکر جدید است

with unique strengths and weaknesses compared to humans.

با قوت و ضعف‌هایی منحصر به فرد و متفاوت با انسان.

In order to make this powerful AI

برای خلق این هوش مصنوعی قدرتمند

sustainable and humanistic,

پایدار و انسان‌وار،

we need to teach AI common sense, norms and values.

باید به هوش مصنوعی عقل سلیم و هنجارها را بیاموزیم.

Thank you.

متشکرم.

(Applause)

(تشویق)

Chris Anderson: Look at that.

کریس اندرسون: نگاه کنید.

Yejin, please stay one sec.

یجین، لطفاً یک لحظه صبر کن،

This is so interesting,

این خیلی جالب است،

this idea of common sense.

این ایده عقل سلیم.

We obviously all really want this from whatever's coming.

همه ما قطعاً این را هر چه هست می‌خواهیم.

But help me understand.

اما به من کمک کن بفهمم.

Like, so we've had this model of a child learning.

خوب ما این مدل یادگیری یک کودک را داریم.

How does a child gain common sense

چگونه یک کودک عقل سلیم را دریافت می‌کند

apart from the accumulation of more input

فارغ از تجمیع ورودی‌های بیشتر

and some, you know, human feedback?

و چیزی مثل بازخورد انسانی؟

What else is there?

چه چیز دیگری وجود دارد؟

Yejin Choi: So fundamentally, there are several things missing,

یجین چوی: خوب اساساً برخی چیزها نادیده گرفته شده‌اند،

but one of them is, for example,

اما یکی از آن‌ها برای مثال،

the ability to make hypothesis and make experiments,

توانایی فرضیه‌سازی و خلق آزمایش است،

interact with the world and develop this hypothesis.

همچنین تعامل با جهان و توسعه این فرضیه.

We abstract away the concepts about how the world works,

ما مفاهیم حول نحوه عملکرد جهان را کنار می‌گذاریم،

and then that's how we truly learn,

و سپس یادگیری واقعی اتفاق می‌افتد،

as opposed to today's language model.

بر خلاف مدل‌های زبانی امروز.

Some of them is really not there quite yet.

برخی از آنها هنوز از این رویکرد فاصله دارند.

CA: You use the analogy that we can’t get to the Moon

اندرسون: شما مثالی زدید از اینکه ما نمی‌توانیم

by extending a building a foot at a time.

با مرتفع‌تر کردن یک متری یک ساختمان به ماه برسیم.

But the experience that most of us have had

اما تجربه‌ای که بیشتر ما داشته‌ایم

of these language models is not a foot at a time.

این مدل‌های زبانی یک متر در یک زمان خاص نیستند.

It's like, the sort of, breathtaking acceleration.

شبیه شتابی سرسام‌آور است.

Are you sure that given the pace at which those things are going,

آیا مطمئن هستید که سرعتی که کارها پیش می‌رود،

each next level seems to be bringing with it

هر مرحله بعد با خود میزانی از

what feels kind of like wisdom and knowledge.

حکمت و دانش را دارد.

YC: I totally agree that it's remarkable how much this scaling things up

چوی: کاملاً موافقم که میزان رشد چشمگیر است

really enhances the performance across the board.

و کارآیی واقعاً بهبود یافته است.

So there's real learning happening

و آموزش واقعی دارد از طریق

due to the scale of the compute and data.

حجمی از محاسبات و داده محقق می‌شود.

However, there's a quality of learning that is still not quite there.

اما کیفیتی از آموزش باید باشد که هنوز محقق نشده است.

And the thing is,

و موضوع این است که،

we don't yet know whether we can fully get there or not

هنوز نمی‌دانیم تنها با افزایش مقیاس‌ها

just by scaling things up.

بتوانیم به این سطح برسیم یا خیر.

And if we cannot, then there's this question of what else?

و اگر نرسیم، سوال این است که حال چه کنیم؟

And then even if we could,

و حتی اگر به این سطح برسیم،

do we like this idea of having very, very extreme-scale AI models

آیا می‌خواهیم مدل‌های هوش مصنوعی بسیار عظیمی داشته باشیم

that only a few can create and own?

که فقط عده قلیلی بتوانند خلق کنند و مالک آن شوند؟

CA: I mean, if OpenAI said, you know, "We're interested in your work,

اندرسون: منظورم این است اگر اوپن‌ای‌آی بگوید: «ما به کار شما علاقمندیم،

we would like you to help improve our model,"

و از شما می‌خواهیم کمک کنید مدل‌مان را بهبود دهیم،»

can you see any way of combining what you're doing

آیا هیچ راهی وجود دارد که بتوانید کار خودتان را با

with what they have built?

چیزی که آنها ساخته‌اند ترکیب کنید؟

YC: Certainly what I envision

چوی: مطمئناً چیزی که من تصور می‌کنم

will need to build on the advancements of deep neural networks.

باید روی پیشرفت‌های شبکه‌های عصبی عمیق بنا شود.

And it might be that there’s some scale Goldilocks Zone,

و ممکن است مقیاسی در نقطه بهینه وجود داشته باشد،

such that ...

از این طریق ...

I'm not imagining that the smaller is the better either, by the way.

البته من هم نمی‌گویم هر چه مقیاس کوچکتر نتیجه بهتر است.

It's likely that there's right amount of scale, but beyond that,

احتمالاً یک مقیاس بهینه وجود دارد، اما بزرگتر از آن

the winning recipe might be something else.

احتمالاً رویکرد موفق، چیز دیگری است.

So some synthesis of ideas will be critical here.

خوب ترکیب برخی ایده‌ها اینجا حیاتی است.

CA: Yejin Choi, thank you so much for your talk.

اندرسون: یجین چوی، بسیار متشکرم بابت سخنان شما.

(Applause)

(تشویق)