How a Worm Could Save Humanity From Bad AI | Ramin Hasani | TED

Translator: Simin Kazemi Reviewer: shirin etebar

My wildest dream is to design artificial intelligence

بزرگ‌ترین رویای من طراحی هوش مصنوعی‌ای است

that is our friend, you know.

که دوست ما باشد. متوجهید؟!

If you have an AI system that helps us understand mathematics,

اگر سیستم هوش مصنوعی‌ای داشته باشید که به ما کمک کند ریاضیات را درک کنیم،

you can solve the economy of the world.

می‌توانید مشکلات اقتصاد جهان را حل کنید.

If you have an AI system that can understand humanitarian sciences,

اگر سیستم هوش مصنوعی‌ای داشته باشید که بتواند علوم انسانی را درک کند،

we can actually solve all of our conflicts.

می‌توانیم در واقع تمام اختلافاتمان را حل کنیم.

I want this system to, given Einstein’s and Maxwell’s equations,

من می‌خواهم این سیستم، با توجه به معادلات انیشتین و ماکسول،

take it and solve new physics, you know.

در واقع، این معادلات را بگیرد و مسئله‌های فیزیک جدید را حل کند.

If you understand physics, you can solve the energy problem.

اگر فیزیک بدانید، می‌توانید مشکل انرژی را حل کنید.

So you can actually design ways for humans

بنابراین در واقع می‌توانید راه‌هایی برای انسان‌ها طراحی کنید

to be the better versions of themselves.

که به نسخه‌های بهتری از خودشان تبدیل شوند.

I'm Ramin Hasani.

من رامین حسنی هستم.

I’m the cofounder and CEO of Liquid AI.

من هم‌بنیانگذار و مدیرعامل شرکت لیکوئید اِی‌آی هستم.

Liquid AI is an AI company built on top of a technology

لیکوئید اِی‌آی یک شرکت هوش مصنوعی است که بر پایه‌ی فناوری‌ای ساخته شده است

that I invented back at MIT.

که من قبل‌تر در دانشگاه ام‌آی‌تی آن را اختراع کردم

It’s called “liquid neural networks.”

و «شبکه‌های عصبی مایع» نام دارد.

These are a form of flexible intelligence,

این شبکه‌ها نوعی هوش انعطاف‌پذیر هستند،

as opposed to today's AI systems that are fixed, basically.

برخلاف سیستم‌های هوش مصنوعی امروزی که اساساً ثابت‌اند.

So think about your brain.

خب، به مغز خودتان فکر کنید.

You can change your thoughts.

می‌توانید افکارتان را تغییر دهید.

When somebody talks to you,

وقتی کسی با شما صحبت می‌کند،

you can completely change the way you respond.

می‌توانید این که چگونه پاسخ می‌دهید را کاملاً تغییر دهید.

شما همیشه مکانیزمی دارید که در سیستم شما، به آن بازخورد می‌گوییم.

You always have a mechanism that we call feedback in your system.

So basically when you receive information from someone as an input,

بنابراین، در اصل وقتی اطلاعاتی را به‌عنوان ورودی از کسی دریافت می‌کنید،

you basically process that information, and then you reply.

در اصل، آن اطلاعات را پردازش می‌کنید و بعد پاسخ می‌دهید.

For liquid neural networks,

برای شبکه‌های عصبی مایع،

we simply got those feedback mechanisms, and we added that to the system.

ما صرفاً آن مکانیزم‌های بازخورد را گرفتیم و آن را به سیستم اضافه کردیم.

So that means it has the ability of thinking.

معنایش این است که این سیستم، توانایی فکرکردن را دارد.

That property is inspired by nature.

این ویژگی از طبیعت الهام گرفته شده است.

We looked into brains of animals and, in particular,

ما به مغز حیوانات نگاهی انداختیم و به‌ویژه

a very, very tiny worm called “C. elegans”

به کرم بسیار بسیار کوچکی به نام سی. الگانس.

The fascinating fact about the brain of the worm

نکته‌ی جالب در مورد مغز این کرم

is that it shares 75 percent of the genome that it has with humans.

این است که ۷۵ درصد از ژنومی که دارد با انسان‌ها مشترک است.

We have the entire genome mapped.

ما نقشه‌ی کل این ژنوم را برداشته‌ایم.

So we understand a whole lot

پس ما چیزهای خیلی زیادی درباره‌ی عملکرد سیستم عصبی آن کرم را هم متوجه شده‌ایم.

about the functionality of its nervous system as well.

So if you understand the properties of cells in the worm,

پس اگر ویژگی‌های سلول‌های این کرم را بفهمید،

maybe we can build intelligent systems that are as good as the worm

شاید بتوانیم سیستم‌های هوشمندی بسازیم که به خوبی آن کرم باشند

and then evolve them into systems that are better than even humans.

و بعد تکامل یابند و به سیستم‌هایی تبدیلشان کنیم که حتی از انسان‌ها هم بهتر باشند.

The reason why we are studying nature is the fact that we can actually,

دلیل این که داریم طبیعت را بررسی می‌کنیم این حقیقت است که در حقیقت می‌توانیم

having a shortcut through exploring all the possible kind of algorithms

با بررسی انواع الگوریتم‌های ممکن که می‌توان طراحی کرد، میانبر بزنیم.

that you can design.

You can look into nature,

می‌توانید به طبیعت نگاه کنید، که به شما به‌نوعی میانبری می‌دهد

that would give you like, a shortcut

to really faster get into efficient algorithms

تا حسابی سریع‌تر به الگوریتم‌های کارآمد برسید

because nature has done a lot of search,

چون طبیعت، زیاد جست‌وجو کرده است،

billions of years of evolution, right?

میلیاردها سال تکامل، درست است؟

So we learned so much from those principles.

پس ما چیزهای زیادی از این اصول آموختیم.

I just brought a tiny principle from the worm

من فقط یک اصل کوچک را از کرم گرفتم

into artificial neural networks.

و به شبکه‌های عصبی مصنوعی آوردم.

And now they are flexible,

حالا این شبکه‌ها انعطاف‌پذیرند،

and they can solve problems in an explainable way

و می‌توانند مشکلات را به روشی توضیح‌پذیر حل کنند که قبلاً ممکن نبود.

that was not possible before.

AI is becoming very capable, right?

هوش مصنوعی دارد بسیار توانمند می‌شود، درست است؟

The reason why AI is hard to regulate

دلیل این که چرا سامان‌دهی هوش مصنوعی دشوار است

is because we cannot understand, even the people who design the systems,

این است که ما نمی‌توانیم بفهمیم، حتی کسانی که سیستم‌ها را طراحی می‌کنند،

we don't understand those systems.

ما این سیستم‌ها را نمی‌فهمیم.

They are black boxes.

جعبه سیاه هستند.

With Liquid, because we are fundamentally using mathematics

با لیکوئید، چون اساساً از ریاضیاتی استفاده می‌کنیم که فهمیدنی است،

that are understandable,

we have tools to really understand

ابزارهایی داریم تا واقعاً بفهمیم

and pinpoint which part of the system is responsible for what,

و دقیق مشخص کنیم که کدام بخش از سیستم مسئول چه کاری است،

you're designing white box systems.

دارید سیستم‌های جعبه سفید طراحی می‌کنید.

So if you have systems that you can understand their behavior,

پس اگر سیستم‌هایی داشته باشید که بتوانید رفتارشان را درک کنید،

that means even if you scale them into something very, very intelligent,

یعنی حتی اگر آن‌ها را به چیزی بسیار بسیار هوشمند ارتقا دهید،

you can always have a lot of control over that system

همیشه می‌توانید کنترل زیادی روی آن سیستم داشته باشید

because you understand it.

چون آن را می‌فهمید.

You can never let it go rogue.

می‌توانید هرگز اجازه ندهید که سرکش شود.

So all of the crises we are dealing with right now,

پس همه‌ی بحران‌هایی که الان با آن‌ها روبرو هستیم،

you know, doomsday kind of scenarios,

می‌دانید، سناریوهای به‌نوعی آخرالزمانی،

is all about scaling a technology that we don't understand.

همه درباره‌ی ارتقای فناوری‌ای هستند که ما آن را نمی‌فهمیم.

With Liquid, our purpose is to really calm people down

با لیکوئید، هدف ما این است که مردم را واقعاً آرام کنیم

and show people that, hey,

و به مردم نشان دهیم که: آهای،

you can have very powerful systems,

شما می‌توانید سیستم‌های بسیار قدرتمندی داشته باشید

that you have a lot of control and visibility

که کنترل و دید زیادی بر مکانیسم‌های کاریشان دارید.

into their working mechanisms.

The gift of having something [with] superintelligence is massive,

موهبت شگرفی است که چیزی [با] ابَرهوش داشته باشید،

and it can enable a lot of things for us.

و این ابَرهوش می‌تواند ما را در چیزهای زیادی توانمند کند.

But at the same time,

اما در عین حال، باید بر آن فناوری کنترل داشته باشیم.

we need to have control over that technology.

زیرا این اولین بار است که ما قرار است فناوری‌ای داشته باشیم

Because this is the first time that we’re going to have a technology

که قرار است از مجموع توانایی کل بشریت هم بهتر باشد.

that is going to be better than all of humanity combined.