Is AI Progress Stuck? | Jennifer Golbeck | TED

Translator: Simin Kazemi Reviewer: shirin etebar

We've built artificial intelligence already

ما همین حالا هم هوش مصنوعی‌ای ساخته‌ایم

that, on specific tasks, performs better than humans.

که در کارهای خاصی، از انسان‌ها بهتر عمل می‌کند.

There's AI that can play chess and beat human grandmasters.

هوش مصنوعی‌ای هست که شطرنج بازی می‌کند و استادبزرگ‌های شطرنج را شکست می‌دهد.

But since the introduction of generative AI

اما از چند سال پیش، از زمان معرفیِ هوش مصنوعی مولد به عموم مردم،

to the general public a couple years ago,

there's been more talk about artificial general intelligence, or AGI,

بیشتر صحبت‌ها درباره‌ی هوش جامع مصنوعی یا اِی‌جی‌آی بوده است

and that describes the idea

و ایده‌ی این هوش مصنوعی این است که

that there's AI that can perform at or above human levels

هوش مصنوعی‌ای باشد که عملکردش هم‌سطح یا بالاتر از سطح انسانی باشد

on a wide variety of tasks, just like we humans are able to do.

آن هم در تنوعی از کارها، درست همان طور که ما انسان‌ها می‌توانیم.

And people who think about AGI are worried about what it means

و کسانی که به هوش جامع مصنوعی فکر می‌کنند نگران هستند که چه می‌شود اگر

if we reach that level of performance in the technology.

ما به آن سطح از عملکرد در این تکنولوژی برسیم.

Right now, there's people from the tech industry

همین حالا، افرادی در صنعت تکنولوژی هستند

coming out and saying

که می‌آیند و می‌گویند:

"The AI that we're building is so powerful and dangerous

«هوش مصنوعی‌ای که داریم می‌سازیم آنقدر قدرتمند و خطرناک است

that it poses a threat to civilization.”

که تهدیدی برای تمدن حساب می‌شود.»

And they’re going to government and saying,

و این افراد سراغ دولت می‌روند و می‌گویند:

"Maybe you need to regulate us."

«شاید لازم باشد ما را ساماندهی کنی.»

Now normally when an industry makes a powerful new tool,

خب، به‌طور معمول، وقتی صنعتی یک ابزار قدرتمندِ جدید می‌سازد،

they don't say it poses an existential threat to humanity

نمی‌گویند که تهدید وجودی‌ای برای بشر دارد

and that it needs to be limited, so why are we hearing that language?

و لازم است محدود شود، پس چرا ما این حرف‌ها را می‌شنویم؟

And I think there's two main reasons.

و به نظر من دو دلیل دارد.

One is if your technology is so powerful

یک دلیلش این است که اگر تکنولوژی شما آنقدر قدرتمند باشد

that it can destroy civilization, between now and then,

که بتواند تمدن بشر را نابود کند، از الان تا آن موقع،

there's an awful lot of money to be made with that.

می‌شود حسابی از آن پول درآورد.

And what better way to convince your investors

و برای این که سرمایه‌گذارانت را متقاعد کنی

to put some money with you

تا سرمایه‌شان را روی کار تو بگذارند

than to warn that your tool is that dangerous?

چه راهی بهتر از این که هشدار بدهی ابزارت تا چنین حدی خطرناک است؟

The other is that the idea of AI overtaking humanity

دلیل دیگر این است که ایده‌ی غلبه‌ی هوش مصنوعی بر بشر

is truly a cinematic concept.

حقیقتاً مفهومی سینمایی است.

We’ve all seen those movies.

همه‌ی ما از این فیلم‌ها دیده‌ایم.

And it’s kind of entertaining to think about what that would mean now

و به‌نوعی سرگرم‌کننده است که فکر کنیم این موضوع الان چه معنایی دارد

with tools that we're actually able to put our hands on.

با ابزارهایی که ما واقعاً می‌توانیم استفاده کنیم.

In fact, it’s so entertaining that it’s a very effective distraction

در واقع، آنقدر سرگرم‌کننده است که به‌طور موثری حواسمان را پرت می‌کند

from the real problems already happening in the world because of AI.

از مشکلات واقعی‌ای که الان دارند به‌خاطر هوش مصنوعی در دنیا می‌افتند.

The more we think about these improbable futures,

هرچه بیشتر به این آینده‌های غیرمحتمل فکر کنیم،

the less time we spend thinking about how do we correct deepfakes

کمتر زمان می‌گذاریم تا به این فکر کنیم که چگونه می‌توانیم دیپ‌فیک را تصحیح کنیم

or the fact that there's AI right now being used to decide

یا به این حقیقت که همین حالا از هوش مصنوعی استفاده می‌شود تا تصمیم بگیرد

whether or not people are let out of prison,

آیا مردم از زندان آزاد بشوند یا نه

and we know it’s racially biased.

و می‌دانیم که این هوش مصنوعی سوءگیری نژادی دارد.

But are we anywhere close to actually achieving AGI?

اما آیا ما حتی نزدیک به جایی هستیم که واقعاً به هوش جامع مصنوعی دست یابیم؟

Some people think so.

بعضی‌ها چنین عقیده‌ای دارند.

Elon Musk said that we'll achieve it within a year.

ایلان ماسک گفت که طی یک سال به آن دست خواهیم یافت.

I think he posted this a few weeks ago.

فکر می‌کنم چند هفته پیش چنین پستی گذاشت.

But like at the same time

اما تقریباً در همان زمان

Google put out their eye search tool that's supposed to give you the answer

گوگل ابزار جست‌وجوی هوش مصنوعی‌اش را ارائه کرد که قرار است به شما پاسخ دهد

so you don’t have to click on a link,

تا لازم نباشد روی لینکی کلیک کنید،

and it's not going super well.

و زیاد هم خوب پیش نمی‌رود.

["How many rocks should I eat?"]

[«باید چقدر سنگ بخورم؟»]

[«حداقل یک وعده از انواع سنگ‌ریزه‌ها، سنگ‌های ژئود، یا شن‌ریزه‌ها ...»]

["... at least a single serving of pebbles, geodes or gravel ..."]

Please don't eat rocks.

لطفاً سنگ نخورید.

(Laughter)

(صدای خنده)

Now of course these tools are going to get better.

خب البته که این ابزارها قرار است بهتر شوند.

But if we're going to achieve AGI

اما اگر قرار باشد به هوش جامع مصنوعی دست پیدا کنید،

or if they're even going to fundamentally change the way we work,

یا حتی اگر قرار باشد از اساس روش کارکردنِ ما را تغییر دهند،

we need to be in a place where they are continuing

باید به جایی رسیده باشیم که تواناییِ آن‌ها

on a sharp upward trajectory in terms of their abilities.

در خطِ سِیری با زاویه‌ای تند و روبه‌بالا قرار گرفته باشد.

And that may be one path.

و این شاید یک مسیر باشد.

But there's also the possibility that what we're seeing

اما این احتمال هم هست که آنچه ما می‌بینیم

is that these tools have basically achieved

این است که این ابزارها اساساً به آنچه می‌توانسته‌اند دست یافته‌اند

what they're capable of doing,

and the future is incremental improvements in a plateau.

و در آینده، بهبودهای تدریجی و اندکی در یک خط سِیرِ ثابت و مسطح خواهند داشت.

پس برای درک آینده‌ی هوش مصنوعی،

So to understand the AI future,

we need to look at all the hype around it and get under there

لازم است همه‌ی تبلیغات غلوآمیز حول آن را دیده و به پشت پرده برویم

and see what's technically possible.

و ببینیم از نظر فنی چه چیزی ممکن است.

And we also need to think about where are the areas that we need to worry

و این را هم لازم است بدانیم که در چه زمینه‌هایی باید نگران باشیم

and where are the areas that we don't.

و در چه زمینه‌هایی نباید.

So if we want to realize the hype around AI,

پس اگر می‌خواهیم متوجه تبلیغات غلوآمیز حول هوش مصنوعی بشویم،

the one main challenge that we have to solve is reliability.

چالش اصلی‌ای که باید حل کنیم قابل‌اعتمادبودن آن است.

These algorithms are wrong all the time, like we saw with Google.

این الگوریتم‌ها همیشه اشتباه هستند، مثل همین چیزی که در گوگل دیدیم.

And Google actually came out and said,

و در واقع گوگل بعد از این نتایج جست‌وجوی بدی که معروف شدند، اعلام کرد که

after these bad search results were popularized,

that they don't know how to fix this problem.

نمی‌دانند چگونه این مشکل را حل کنند.

I use ChatGPT every day.

من هر روز از چت‌جی‌پی‌تی استفاده می‌کنم.

I write a newsletter that summarizes discussions on far-right message boards,

خبرنامه‌ای می‌نویسم که بحث‌های تالارهای گفت‌وگوی راست‌گرای افراطی را خلاصه می‌کند

and so I download that data,

و در نتیجه چنین داده‌هایی را دانلود می‌کنم و با کمک چت‌جی‌پی‌تی خلاصه را بنویسم.

ChatGPT helps me write a summary.

And it makes me much more efficient than if I had to do it by hand.

و بازده کار من را بسیار بیشتر از زمانی می‌کند که با دست بنویسم.

But I have to correct it every day

اما هر روز باید تصحیحش کنم

because it misunderstands something,

چون یک‌چیزی را اشتباه می‌فهمد و این که متن در چه زمینه‌ای است را نادیده می‌گیرد.

it takes out the context.

And so because of that,

و به همین علت،

I can't just rely on it to do the job for me.

نمی‌توانم فقط به آن متکی باشم تا کارم را برایم انجام دهد.

And this reliability is really important.

و این قابل‌اعتمادبودن واقعاً مهم است.

Now a subpart of reliability in this space is AI hallucination,

حالا، از زیرمجموعه‌های قابل‌اعتمادنبودن در این فضا، توهم هوش مصنوعی است،

a great technical term for the fact that AI just makes stuff up

توهم، اصطلاح فنی‌ای عالی است برای این حقیقت که هوش مصنوعی خیلی وقت‌ها

a lot of the time.

پاسخ‌هایی جعلی از خودش درمی‌آورد.

I did this in my newsletter.

من در خبرنامه‌ام این کار را کردم.

I said, ChatGPT are there any people threatening violence?

گفتم: چت‌جی‌پی‌تی، آیا مردم تهدید به خشونت می‌کنند؟

If so, give me the quotes.

اگر می‌کنند، جملاتشان را بیاور.

And it produced these three really clear threats of violence

و چت‌جی‌پی‌تی این سه جمله را آورد که تهدید به خشونت را به‌وضوح نشان می‌دهند

that didn't sound anything like people talk

اما اصلاً شبیه نوع حرف‌زدن افراد در این تالارهای گفت‌وگوی اینترنتی نبود.

on these message boards.

And I went back to the data, and nobody ever said it.

و من دوباره سراغ داده‌ها رفتم و هیچ‌کس چنین حرفی نزده بود.

It just made it up out of thin air.

این حرف‌ها را از خودش درآورده بود.

And you may have seen this if you've used an AI image generator.

شاید همین را در استفاده از هوش مصنوعی تصویرساز دیده باشید.

I asked it to give me a close up of people holding hands.

من از آن خواستم تا تصویری از نمای نزدیک از افرادی که دست هم را گرفته‌اند، بدهد.

That's a hallucination and a disturbing one at that.

این هم توهم است و هم آزاردهنده.

(Laughter)

(صدای خنده)

We have to solve this hallucination problem

ما باید این مشکل توهم را حل کنیم

if this AI is going to live up to the hype.

اگر قرار است هوش مصنوعی به پای این تبلیغات غلوآمیز برسد.

And I don't think it's a solvable problem.

و به نظر من این مشکلی حل‌شدنی نیست.

With the way this technology works, there are people who say,

با روش کاری که این تکنولوژی دارد، کسانی هستند که می‌گویند

we're going to have it taken care of in a few months,

ما قرار است چند ماهی حواسمان به آن باشد،

but there’s no technical reason to think that’s the case.

اما هیچ دلیل فنی‌ای وجود ندارد که فکر کنیم موضوع این است.

Because generative AI always makes stuff up.

چون هوش مصنوعی مولد همیشه چیزهایی را از خودش درمی‌آورد.

When you ask it a question,

وقتی از آن سوالی می‌پرسید،

it's creating that answer or creating that image from scratch

دارد آن پاسخ یا آن تصویر را از صفر می‌سازد

همان موقع که می‌پرسید.

when you ask.

It's not like a search engine that goes and finds the right answer on a page.

شبیه موتور جست‌وجویی نیست که می‌رود و پاسخ درست را در صفحه‌ای پیدا می‌کند.

And so because its job is to make things up every time,

و چون کارش این است که هر بار چیزهایی را از خودش دربیاورد،

I don't know that we're going to be able to get it to make up correct stuff

نمی‌دانم که قادر خواهیم بود آن را به جایی برسانیم که چیزهایی درستی از خودش دربیاورد

and then not make up other stuff.

و بعد چیزهای دیگری سرهم نکند.

That's not what it's trained to do,

این کاری نیست که برایش آموزش دیده است و ما از دستیابی به چنین چیزی بسیار دور هستیم.

and we're very far from achieving that.

And in fact, there are spaces where they're trying really hard.

و در واقع، در برخی موضوعات هم دارند سخت تلاش می‌کنند.

یکی از این موضوعات که هوش مصنوعی شور و شوق زیادی برمی‌انگیزاند

One space that there's a lot of enthusiasm for AI

is in the legal area

حوزه‌ی حقوقی است

where they hope it will help write legal briefs or do research.

که امیدوارند کمکشان کند خلاصه‌ی دعوی‌ها را بنویسند یا تحقیق کنند.

Some people have found out the hard way

بعضی افراد از راه سختی فهمیدند

that they should not write legal briefs right now with ChatGPT

که همین الان نباید با چت‌جی‌پی‌تی خلاصه‌ی دعوی‌ها را بنویسند

and send them to federal court,

و آن‌ها را به دادگاه فدرال بفرستند،

because it just makes up cases that sound right.

چون پرونده‌هایی را از خودش درمی‌آورد که فقط درست به نظر می‌رسند.

And that's a really fast way to get a judge mad at you

و این راهی بسیار سریع است برای این که یک قاضی را از دست خودتان عصبانی کنید

and to get your case thrown out.

تا پرونده‌تان را دور بیندازد.

راستش همین حالا هم شرکت‌های تحقیقاتی‌ای هستند

Now there are legal research companies right now

that advertise hallucination-free

که هوش مصنوعی مولدِ بدون توهم را تبلیغ می‌کنند.

generative AI.

And I was really dubious about this.

و من به این موضوع بسیار بدگمان بودم.

And researchers at Stanford actually went in and checked it,

و پژوهشگران دانشگاه استنفورد واقعاً ورود کرده و چک کردند

and they found the best-performing of these hallucination-free tools

و متوجه شدند که آن ابزارهای بدون توهمی که بهترین عملکرد را داشتند

still hallucinates 17 percent of the time.

هنوز هم در ۱۷درصد مواقع توهم داشتند.

So like on one hand,

پس از یک طرف،

it's a great scientific achievement that we have built a tool

دستاورد علمی محشری است که ابزاری ساخته‌ایم

that we can pose basically any query to,

که می‌توانیم اساساً هر سوالی را از آن بپرسیم

and 60 or 70 or maybe even 80 percent of the time

و ۶۰ یا ۷۰ یا شاید حتی ۸۰ درصد مواقع

it gives us a reasonable answer.

به ما پاسخی منطقی بدهد.

But if we're going to rely on using those tools

اما اگر قرار باشد به استفاده از این ابزارها متکی باشیم

and they're wrong 20 or 30 percent of the time,

و ۲۰ یا ۳۰ درصد مواقع اشتباه می‌کنند،

there's no model where that's really useful.

هیچ مدلی وجود ندارد که واقعاً مفید باشد.

And that kind of leads us into

و این موضوع، تا حدودی، ما را به اینجا می‌رساند که

how do we make these tools that useful?

چگونه این ابزارها را واقعاً مفید کنیم؟

Because even if you don't believe me

چون حتی اگر حرف من را باور نکنید

and think we're going to solve this hallucination problem,

و فکر کنید که قرار است این مشکل توهم را حل کنیم،

قرار است مشکل قابل‌اعتمادبودن را حل کنیم،

we're going to solve the reliability problem,

این ابزارها هنوز هم لازم است بهتر از چیزی که الان هستند بشوند.

the tools still need to get better than they are now.

And there's two things they need to do that.

و برای بهترشدنشان دو چیز لازم است.

One is lots more data

اولی داده‌های خیلی بیشتر است

و دومی خود تکنولوژی‌اش است که باید بهبود یابد.

and two is the technology itself has to improve.

So where are we going to get that data?

خب از کجا قرار است آن داده‌ها را به دست بیاوریم؟

Because they've kind of taken all the reliable stuff online already.

چون تا الان تقریباً همه‌ی اطلاعات آنلاین قابل‌اعتماد را جمع کرده‌اند.

And if we were to find twice as much data as they've already had,

و اگر دو برابر اطلاعاتی که الان دارند را هم پیدا کنیم،

that doesn't mean they're going to be twice as smart.

معنایش این نیست که دو برابر هوشمندتر می‌شوند.

I don't know if there's enough data out there,

نمی‌دانم آیا اطلاعات کافی آن بیرون هست یا نه

and it's compounded by the fact

و وضع هم با این حقیقت وخیم‌تر می‌شود

that one way the generative AI has been very successful

که یک کاری که هوش مصنوعی مولد در آن بسیار موفق بوده است

is at producing low-quality content online.

در تولید محتوای آنلاین با کیفیت پایین است؛

That's bots on social media, misinformation,

یعنی ربات‌های شبکه‌های اجتماعی، اطلاعات غلط،

and these SEO pages that don't really say anything

و این صفحه‌های سئوشده‌ای که واقعاً حرف خاصی نمی‌زنند

but have a lot of ads and come up high in the search results.

اما تبلیغات بسیاری دارند و در نتایج جست‌وجو بالا می‌آیند.

And if the AI starts training on pages that it generated,

و اگر هوش مصنوعی آموزش‌دیدن با صفحاتی که خودش ساخته را شروع کند،

we know from decades of AI research that they just get progressively worse.

از دهه‌ها پژوهش روی هوش مصنوعی می‌دانیم که فقط به‌طور فزاینده‌ای وضعش بدتر خواهد شد.

It's like the digital version of mad cow disease.

شبیه نسخه‌ی دیجیتالِ بیماری جنون گاوی است.

(Laughter)

(صدای خنده)

Let's say we solve the data problem.

فرض کنیم که مشکل داده‌ها را حل کردیم.

You still have to get the technology better.

هنوز هم باید تکنولوژی را بهتر کرد.

And we've seen 50 billion dollars in the last couple years

و در یکی‌دو سال اخیر دیده‌ایم که ۵۰میلیارد دلار

invested in improving generative AI.

در بهبودِ هوش مصنوعی سرمایه‌گذاری شده است.

And that's resulted in three billion dollars in revenue.

و نتیجه‌اش سه‌میلیارد دلار درآمد بوده است.

So that's not sustainable.

پس نمی‌شود این روش را ادامه داد.

But of course it's early, right?

اما البته هنوز زود است، درست است؟

Companies may find ways to start using this technology.

شاید شرکت‌ها راه‌هایی بیابند تا شروع به استفاده از این تکنولوژی کنند.

But is it going to be valuable enough

اما آیا قرار هست انقدر ارزشمند شود

to justify the tens and maybe hundreds of billions of dollars

که ده‌ها و شاید صدها میلیارد دلار

of hardware that needs to be bought

سخت‌افزاری که لازم است بخرند را توجیه کند

to make these models get better?

تا این مدل‌ها را بهتر کنند؟

I don't think so.

من این طور فکر نمی‌کنم.

And we can kind of start looking at practical examples to figure that out.

و ما می‌توانیم با نگاهی به نمونه‌های عملی از این موضوع سر در بیاوریم.

And it leads us to think about where are the spaces we need to worry and not.

و به این نتیجه می‌رسیم که فکر کنیم کجا لازم است نگران باشیم و کجا نه.

Because one place that everybody's worried with this

چون یکی از موضوعاتی که همه نگرانش هستند

این است که هوش مصنوعی قرار است همه‌ی مشاغلمان را از ما بگیرد.

is that AI is going to take all of our jobs.

Lots of people are telling us that’s going to happen,

افراد بسیاری به ما می‌گویند که چنین اتفاقی می‌افتد

and people are worried about it.

و مردم درباره‌اش نگران‌اند.

And I think there's a fundamental misunderstanding at the heart of that.

و به نظر من سوءتفاهمی اساسی در قلب این موضوع وجود دارد.

So imagine this scenario.

خب این سناریو را تصور کنید.

We have a company,

یک شرکت داریم و می‌تواند هزینه‌ی استخدام دو مهندس نرم‌افزار را بدهد.

and they can afford to employ two software engineers.

And if we were to give those engineers some generative AI to help write code,

و اگر بخواهیم به این مهندسان هوش مصنوعیِ مولدی بدهیم تا کمکشان کند کد بنویسند،

which is something it's pretty good at,

که هوش مصنوعی خیلی ماهری در این کار باشد، فرض کنیم بهره‌وری‌شان دو برابر می‌شود.

let's say they're twice as efficient.

That's a big overestimate, but it makes the math easy.

این برآورد ما بیش‌ازحد خوش‌بینانه است اما حساب‌کتابش را آسان می‌کند.

So in that case, the company has two choices.

پس در این مورد، این شرکت دو گزینه دارد.

They could fire one of those software engineers

می‌تواند یکی از آن مهندسان نرم‌افزار را اخراج کند

because the other one can do the work of two people now,

چون مهندسِ دیگر حالا می‌تواند کار دو نفر را انجام دهد،

or they already could afford two of them,

یا همین حالا هم می‌تواند حقوق هر دو مهندس را بدهد،

and now they're twice as efficient,

بهره‌وری‌شان هم دو برابر شده است،

so they're bringing in more money.

پس پول بیشتری برای شرکت در خواهند آورد.

So why not keep both of them and take that extra profit?

پس چرا هر دوی آن‌ها را نگه ندارد و آن سود اضافه را به جیب نزند؟

The only way this math fails is if the AI is so expensive

تنها دلیلی که این حساب‌کتاب شکست می‌خورد این است که اگر هوش مصنوعی خیلی گران باشد

that it's not worth it.

ارزشش را ندارد.

But that would be like the AI is 100,000 dollars a year

اما شبیه این است که هوش مصنوعی سالانه صدهزار دلار هزینه دارد

to do one person's worth of work.

تا کار یک نفر را انجام دهد.

So that sounds really expensive.

پس حسابی گران به نظر می‌رسد.

And practically,

و در عمل،

there are already open-source versions of these tools

همین حالا هم نسخه‌های متن‌باز این ابزارها هست

that are low-cost, that companies can install and run themselves.

که کم‌هزینه‌‌اند و شرکت‌ها می‌توانند خودشان نصب و اجرا کنند.

Now they don’t perform as well as the flagship models,

خب این مدل‌ها به‌خوبی مدل‌های پرچم‌دار نیستند،

but if they're half as good and really cheap,

اما اگر نصف آن‌ها خوب‌اند و حسابی ارزان‌اند،

wouldn't you take those over the one that costs 100,000 dollars a year

حاضر نیستید آن‌ها را در عوضِ مدل‌های صدهزار دلاری انتخاب کنید

to do one person's work?

تا کار یک نفر را انجام دهند؟ البته که حاضرید.

Of course you would.

And so even if we solve reliability, we solve the data problem,

پس حتی اگر مشکل قابل‌اعتمادبودن را حل کنیم، مشکل داده‌ها را حل کنیم،

we make the models better,

مدل‌ها را بهتر کنیم،

the fact that there are cheap versions of this available

این حقیقت که نسخه‌های ارزانشان هم در دسترس است،

suggests that companies aren't going to be spending

حاکی از این است که شرکت‌ها قرار نیست

hundreds of millions of dollars to replace their workforce with AI.

صدها میلیون دلار هزینه کنند تا نیروی انسانی‌شان را با هوش مصنوعی جایگزین کنند.

There are areas that we need to worry, though.

البته حوزه‌هایی هم هستند که لازم است نگرانشان باشیم.

Because if we look at AI now,

زیرا اگر به هوش مصنوعی الان نگاه کنیم،

there are lots of problems that we haven't been able to solve.

مشکلات بسیاری دارد که نتوانسته‌ایم حل کنیم.

I've been building artificial intelligence for over 20 years,

من بیش از ۲۰ سال است که دارم هوش مصنوعی می‌سازم

and one thing we know

و یک چیزی که می‌دانیم

is that if we train AI on human data,

این است که اگر هوش مصنوعی را با داده‌های انسانی آموزش دهیم،

the AI adopts human biases,

هوش مصنوعی، سوگیری‌های انسانی را نیز پی می‌گیرد

and we have not been able to fix that.

و ما نتوانسته‌ایم این مشکل را حل کنیم.

We've seen those biases start showing up in generative AI,

دیده‌ایم که این سوگیری‌ها در هوش مصنوعیِ مولد دارند کم‌کم خودشان را نشان می‌دهند

and the gut reaction is always, well,

و واکنش غریزی همیشه این است که، خب،

let's just put in some guardrails to stop the AI from doing the biased thing.

بیایید چند حفاظ بگذاریم تا نگذاریم هوش مصنوعی کارهای سوگیرانه را انجام دهد.

اما اولاً، این کار هیچ‌وقت سوگیری را حل نمی‌کند

But one, that never fixes the bias because the AI finds a way around it.

چون هوش مصنوعی راه دورزدنش را پیدا می‌کند.

And two, the guardrails themselves can cause problems.

و دوماً، خود حفاظ‌ها هم می‌توانند مشکل‌ساز شوند.

So Google has an AI image generator,

پس گوگل هوش مصنوعی تصویرساز دارد،

and they tried to put guardrails in place to stop the bias in the results.

و تلاش کرده‌اند حفاظ‌هایی بگذارند تا نتایج سوگیری نداشته باشند.

And it turned out it made it wrong.

و معلوم شده است که خرابش کرده است.

This is a request for a picture

این درخواستی برای تصویری است

of the signing of the Declaration of Independence.

از امضای بیانیه‌ی استقلال.

And it's a great picture, but it is not factually correct.

و تصویری عالی است اما از منظر واقعیت‌ها درست نیست.

And so in trying to stop the bias,

و برای متوقف‌کردن این سوگیری،

we end up creating more reliability problems.

نهایتاً مشکلات بیشتری در زمینه‌ی قابل‌اعتمادبودن می‌آفرینیم.

We haven't been able to solve this problem of bias.

ما نتوانسته‌ایم این مشکل سوگیری را حل کنیم.

And if we're thinking about deferring decision making,

و اگر دنبال به‌تاخیرانداختن تصمیم‌گیری‌ها،

replacing human decision makers and relying on this technology

دنبال جایگزین‌کردن تصمیم‌گیرانِ انسانی و اتکا‌کردن به این تکنولوژی هستیم

and we can't solve this problem,

و نمی‌توانیم این مشکل را حل کنیم،

that's a thing that we should worry about

این چیزی است که باید نگرانش باشیم

and demand solutions to

و برایش دنبال راهکارهایی باشیم

before it's just widely adopted and employed because it's sexy.

قبل از این که دیگر حسابی پذیرفته و به کار گرفته شده باشد، چون جذاب است.

And I think there's one final thing that's missing here,

و به نظر من فقط یک نکته‌ی نهایی باقی مانده که اینجا نادیده گرفته شده است

which is our human intelligence

که هوش انسانی ما با بازده ما در کار تعریف نمی‌شود.

is not defined by our productivity at work.

At its core, it's defined by our ability to connect with other people.

در اصل، هوش ما با توانایی ما در برقراری ارتباط با دیگر افراد تعریف می‌شود.

Our ability to have emotional responses,

توانایی ما در داشتن پاسخ‌های احساسی،

to take our past and integrate it with new information

تا گذشته‌مان را بگیریم و با اطلاعات جدید ترکیبش کنیم

and creatively come up with new things.

و خلاقانه به چیزهای جدیدی برسیم.

And that’s something that artificial intelligence is not now

و این چیزی است که هوش مصنوعی نه الان

nor will it ever be capable of doing.

و نه هیچ‌وقت نمی‌تواند توانایی انجامش را داشته باشد.

It may be able to imitate it

شاید بتواند تقلیدش کند

and give us a cheap facsimile of genuine connection

و به ما کپی نامرغوبی از ارتباطات اصیل و همدلی و خلاقیت بدهد.

and empathy and creativity.

But it can't do those core things to our humanity.

اما نمی‌تواند این کارهایی را که اَس‌واساس نوع بشر ما هستند، انجام دهد.

And that's why I'm not really worried about AGI taking over civilization.

و به همین علت است ک من واقعاً نگران نیستم که هوش جامع مصنوعی بر تمدن مسلط شود.

But if you come away from this disbelieving everything I have told you,

اما اگر در حالی از اینجا بروید که هیچ‌کدام از حرف‌هایم را باور نکرد‌ه‌اید،

and right now you're worried

و همین حالا هم نگران هستید

about humanity being destroyed by AI overlords,

که خداوندگار هوش مصنوعی بشریت را نابود کند،

the one thing to remember is,

یک چیز که باید یادتان بماند این است که

despite what the movies have told you,

برخلاف چیزی که فیلم‌ها به شما گفته‌اند،

if it gets really bad,

اگر خیلی خرابکار شود،

we still can always just turn it off.

هنوز هم همیشه می‌توانیم راحت خاموشش کنیم.

(Laughter)

(صدای خنده)

Thank you.

ممنونم.

(Applause)

(صدای تشویق)