How will AI change the world?

Translator: sadegh vn Reviewer: shirin etebar

در سال‌های پیش‌رو، هوش مصنوعی

In the coming years, artificial intelligence

احتمالاً قرار است زندگی شما و شاید هم کل جهان را دستخوش تغییر کند.

is probably going to change your life, and likely the entire world.

اما مردم در توافق بر سر چگونگی این فرایند مشکل دارند.

But people have a hard time agreeing on exactly how.

ادامه ویدیو، گزیده‌‌هایی از یک مصاحبه در مجمع جهانی اقتصاد است

The following are excerpts from an interview

where renowned computer science professor and AI expert Stuart Russell

که پروفسور بلندآوازه علوم کامپیوتر و هوش مصنوعی، آقای استوارت راسل

helps separate the sense from the nonsense.

کمک می‌کند تا بتوانیم درست را از نادرست تشخیص دهیم.

There’s a big difference between asking a human to do something

بین درخواست کردن از یک انسان برای انجام کاری

and giving that as the objective to an AI system.

و تعریف کردن آن به صورت یک هدف برای سیستم هوش مصنوعی زمین تا آسمان فرق است.

When you ask a human to get you a cup of coffee,

وقتی از کسی می‌خواهید که برایتان یک فنجان قهوه بیاورد،

you don’t mean this should be their life’s mission,

منظورتان این نیست که این باید ماموریت زندگی او تلقی شود

and nothing else in the universe matters.

و به هیچ چیز دیگری جز انجامش فکر نکند.

Even if they have to kill everybody else in Starbucks

مثلا حتی اگر مجبور شد همه افراد حاضر در استارباکس را بکشد

to get you the coffee before it closes— they should do that.

تا قهوه‌تان را قبل از اینکه فروشگاه بسته شود، بگیرد.

No, that’s not what you mean.

نه، منظور شما این نیست.

All the other things that we mutually care about,

هر چیزی را که ما متقابلاً به آن اهمیت می‌دهیم،

they should factor into your behavior as well.

باید در رفتار ما هم نمود داشته باشد.

و مشکلی که اکنون در مسیر ساخت سیستم‌های هوش مصنوعی با آن مواجهیم

And the problem with the way we build AI systems now

این است که به آنها یک هدف واحد می‌دهیم.

is we give them a fixed objective.

الگوریتم‌ها به ما نیاز دارند تا برایشان هرچیز مربوط به هدف را ذکر کنیم.

The algorithms require us to specify everything in the objective.

And if you say, can we fix the acidification of the oceans?

و اگر از من بپرسید که، آیا می‌توانیم مشکل اسیدی شدن اقیانوس‌ها را حل کنیم؟

Yeah, you could have a catalytic reaction that does that extremely efficiently,

می‌گویم بله،با یک واکنش کاتالیستی به شدت کارآمد هم می‌تواند انجام شود

but it consumes a quarter of the oxygen in the atmosphere,

اما یک‌چهارم اکسیژن موجود در اتمسفر مصرف می‌شود،

which would apparently cause us to die fairly slowly and unpleasantly

که ظاهراً باعث می‌شود که ما به طور نسبتاً آرام و زجرآوری

over the course of several hours.

در عرض چند ساعت بمیریم.

So, how do we avoid this problem?

بنابراین، چطور ما جلوی این مشکل را بگیریم؟

You might say, okay, well, just be more careful about specifying the objective—

شاید پیشنهادتان این باشد که باشه، خب، فقط باید در تعیین هدف بیشتر مراقب باشیم،

don’t forget the atmospheric oxygen.

و اکسیژن هوا را فراموش نکنیم.

And then, of course, some side effect of the reaction in the ocean

و خب، البته که برخی از اثرات جانبی واکنش در اقیانوس

poisons all the fish.

باعث مسمومیت تمام ماهی‌ها می‌شود

Okay, well I meant don’t kill the fish either.

خب، باشه، ماهی‌ها را هم نباید بکشیم.

And then, well, what about the seaweed?

و خب، حالا جلبک‌های دریایی چطور؟

Don’t do anything that’s going to cause all the seaweed to die.

نباید کاری کنیم که منجر به نابودی همه جلبک‌های دریایی شود.

And on and on and on.

و غیره...

And the reason that we don’t have to do that with humans is that

و دلیل اینکه ما این کار را روی بشر انجام نمی‌دهیم این است که

humans often know that they don’t know all the things that we care about.

انسان‌ها اغلب می‌دانند که از تمام چیزهایی که برایمان اهمیت دارد مطلع نیستیم.

If you ask a human to get you a cup of coffee,

اگر از یک انسان یک فنجان قهوه درخواست کنید

and you happen to be in the Hotel George Sand in Paris,

و این اتفاق در جایی مثل هتل جورج سند در پاریس بیفتد،

where the coffee is 13 euros a cup,

که قیمت هر فنجان قهوه در آنجا ۱۳ یورو است،

it’s entirely reasonable to come back and say, well, it’s 13 euros,

این کاملاً منطقی بنظر می‌رسد که او برگردد و به شما بگوید خب، هر فنجان ۱۳ یورو است،

are you sure you want it, or I could go next door and get one?

آیا مطمئنی همین را می‌خواهی، وگرنه می‌توانم از این نزدیکی‌ها قهوه بگیرم

And it’s a perfectly normal thing for a person to do.

و انجام این کار توسط یک انسان کاملاً طبیعی است.

To ask, I’m going to repaint your house—

اگر بخواهم خانه‌تان را دوباره رنگ کنم، اشکالی ندارد که بپرسم

is it okay if I take off the drainpipes and then put them back?

می‌شود لوله‌های ناودون را باز کنم و پس از اتمام کار دوباره نصبشان کنم؟

We don't think of this as a terribly sophisticated capability,

ما این را یک قابلیت بسیار پیچیده در نظر نمی‌گیریم،

but AI systems don’t have it because the way we build them now,

اما سیستم‌های هوش مصنوعی از آن بی‌بهره‌اند چون در روند ساخت کنونی آنها،

they have to know the full objective.

آنها موظف‌اند به دنبال هدف اصلی باشند.

If we build systems that know that they don’t know what the objective is,

اگر ما سیستم‌هایی طراحی کنیم که بفهمند از ماهیت هدف آگاهی کامل ندارند،

then they start to exhibit these behaviors,

آنگاه شروع به بروز دادن چنین رفتارهایی از خود می‌کنند،

like asking permission before getting rid of all the oxygen in the atmosphere.

مثلاً قبل از اینکه کلک کل اکسیژن اتمسفر را بکنند، برای انجام این کار اجازه می‌گیرند.

In all these senses, control over the AI system

در تمامی این موارد، کنترل داشتن بر سیستم هوش مصنوعی

comes from the machine’s uncertainty about what the true objective is.

از عدم قطعیت دستگاه بر اینکه کدام هدف حقیقی‌ست نشأت می‌گیرد.

And it’s when you build machines that believe with certainty

و زمانی که دستگاه‌هایی طراحی شوند که اطمینان قطعی داشته باشند

that they have the objective,

که یک هدف مشخص و واحد دارند،

that’s when you get this sort of psychopathic behavior.

آن وقت است که شما شاهد نوعی رفتار روان‌پریشانه خواهید بود.

And I think we see the same thing in humans.

و بنظرم ما شاهد چنین چیزی در انسان‌ها هم هستیم.

What happens when general purpose AI hits the real economy?

چه اتفاقی می‌افتد اگر که هوش مصنوعی، خود اقتصاد واقعی را هدف قرار دهد؟

How do things change? Can we adapt?

شرایط چگونه تغییر می‌کنند؟ آیا ما با آن سازگاری پیدا خواهیم کرد؟

This is a very old point.

این دیدگاه خیلی قدیمی است.

Amazingly, Aristotle actually has a passage where he says,

ارسطو به صورت شگفت‌انگیزی یک نقل قول دارد که در آن می‌گوید،

look, if we had fully automated weaving machines

ببینید، اگر ما یک دستگاه بافندگی کاملاً اتوماتیک داشته باشیم

and plectrums that could pluck the lyre and produce music without any humans,

و مضراب‌هایی وجود داشته باشند که بتوانند به خودی خود بدون کمک انسان چنگ بنوازند،

then we wouldn’t need any workers.

آن موقع ما دیگر نیازمند هیچ نیروی کاری نخواهیم بود.

That idea, which I think it was Keynes

دیدگاهی وجود داشت که بنظرم آقای کینز بود که

who called it technological unemployment in 1930,

در سال ۱۹۳۰ این روند را بیکاری بیولوژیک نامید،

is very obvious to people.

که بسیار هم برای مردم واضح است.

They think, yeah, of course, if the machine does the work,

آنها عقیده‌شان این بود که بله، البته که اگر ماشین‌ها روی کار بیایند،

then I'm going to be unemployed.

من شغلم را از دست خواهم داد.

You can think about the warehouses that companies are currently operating

شما می‌توانید انبار‌های کارخانه‌هایی را در نظر بگیرید که در حال حاضر

for e-commerce, they are half automated.

برای تجارت الکترونیک عملیاتی شده‌اند همه‌شان نیمه‌اتوماتیک هستند.

The way it works is that an old warehouse— where you’ve got tons of stuff piled up

روش کار اینگونه است که یک انبار قدیمی که هزاران وسیله در سراسر آن روی هم انباشته شده

all over the place and humans go and rummage around

کارگران می‌روند و همه چیز را زیر و رو می‌کنند

و نهایتا وسیله‌ای پیدا کرده و بیرون می‌فرستند

and then bring it back and send it off—

there’s a robot who goes and gets the shelving unit

در اینجا رباتی تعبیه شده است که به سراغ واحد قفسه موردنظر می‌رود

that contains the thing that you need,

که همان چیزی که به آن نیاز دارید آنجاست،

but the human has to pick the object out of the bin or off the shelf,

اما کارگر انسانی مجبور است که وسیله را از قفسه یا بخش مربوطه خودش بردارد،

because that’s still too difficult.

به همین دلیل این روش بسیار دشوار است.

But, at the same time,

اما، در همان زمان،

would you make a robot that is accurate enough to be able to pick

آیا رباتی می‌سازید که به قدری بادقت باشد که بتواند هر وسیله‌ای را از بین تعداد زیادی

pretty much any object within a very wide variety of objects that you can buy?

اجناس قابل خریداری، شناسایی و پیدا کند؟

That would, at a stroke, eliminate 3 or 4 million jobs?

و با یک حرکت باعث از بین رفتن ۳ تا ۴ میلیون شغل شود؟

There's an interesting story that E.M. Forster wrote,

آقای ای.ام فورستر داستان جالبی نوشته است

where everyone is entirely machine dependent.

که در آن همه بشر کاملاً به ماشین‌ها وابسته هستند.

The story is really about the fact that if you hand over

در واقع داستان به این واقعیت اشاره می‌کند که اگر انسان‌ها

the management of your civilization to machines,

افسار سازوکار سرزمینشان را برای مدیریت به ماشین‌ها بسپارند،

you then lose the incentive to understand it yourself

انگیزه لازم برای درک شخصی آن

or to teach the next generation how to understand it.

یا منتقل کردن دانش درک آن به نسل‌های بعدی را از دست خواهند داد.

You can see “WALL-E” actually as a modern version,

می‌توانید انیمیشن«وال-ای» را به عنوان یک دید تازه تماشا کنید،

where everyone is enfeebled and infantilized by the machine,

که در آن تمام بشر ناتوان شده‌اند و مثل رابطه بچه و مادر به ماشین‌ها وابسته‌اند

and that hasn’t been possible up to now.

و چنین چیزی تا به امروز ممکن نبوده است.

We put a lot of our civilization into books,

ما مطالب زیادی در مورد تمدن‌مان داخل کتاب‌ها چاپ کردیم،

but the books can’t run it for us.

اما کتاب‌ها چندان مؤثر واقع نشدند.

And so we always have to teach the next generation.

پس ما باید همیشه در حال آموزش دادن به نسل جدید باشیم.

If you work it out, it’s about a trillion person years of teaching and learning

اگر این کار ادامه پیدا کند، به اندازه حدود یک تریلیون سال آموزش و یادگیری وجود دارد

and an unbroken chain that goes back tens of thousands of generations.

که زنجیره‌ای ناگسستنی می‌سازد که می‌تواند ده‌ها هزار نسل را در امان نگه دارد.

What happens if that chain breaks?

اگر این زنجیره از هم پاره شود چه خواهد شد؟

I think that’s something we have to understand as AI moves forward.

به نظرم چیزی در خصوص پیشرفت هوش مصنوعی وجود دارد که باید آن را درک کنیم.

The actual date of arrival of general purpose AI—

تاریخ حقیقی رونمایی از هوش مصنوعی همه‌کاره -

you’re not going to be able to pinpoint, it isn’t a single day.

نمی‌توان یک تاریخ بخصوص را اعلام کرد چون فقط یک روز که نیست.

چیزی نخواهد بود که هرکاری بتواند بکند یا که بلااستفاده باشد

It’s also not the case that it’s all or nothing.

The impact is going to be increasing.

اثرگذاری‌اش روزبه‌روز بیشتر خواهد شد.

So with every advance in AI,

بنابراین با بروز هر پیشرفت در هوش مصنوعی،

it significantly expands the range of tasks.

دامنه وظایفش به طرز وسیعی افزایش می‌یابد.

So in that sense, I think most experts say by the end of the century,

بنابراین از این جهت، به نظر من و طبق گفته اکثر کارشناسان، ما تا آخر این قرن

we’re very, very likely to have general purpose AI.

به احتمال بسیار بسیار زیاد به هوش مصنوعی همه‌کاره دست خواهیم یافت.

The median is something around 2045.

تا سال ۲۰۴۵، ما چیزی حدود نصف این زمان را طی می‌کنیم.

I'm a little more on the conservative side.

من خودم بیشتر به ریسک و خطر آنها فکر می‌کنم

I think the problem is harder than we think.

به نظرم مسئله از آنچه که فکر می‌کنیم دشوار‌تر است

I like what John McAfee, he was one of the founders of AI,

من هم با جان مک‌آفی، یکی از بنیانگذاران هوش مصنوعی، هم‌نظر هستم

when he was asked this question, he said, somewhere between five and 500 years.

وقتی که این سوال از او هم پرسیده شد، جواب داد: چیزی حدودا بین ۵ تا ۵۰۰ سال.

And we're going to need, I think, several Einsteins to make it happen.

و به نظرم، ما برای تحقق آن به چندین انیشتین نیاز خواهیم داشت.