The Exciting, Perilous Journey Toward AGI | Ilya Sutskever | TED

المترجم: Mahmoud Mohamed Ahmed المدقّق: Shimaa Nabil

You've all experienced the progress of artificial intelligence.

لقد اختبرتم جميعًا تقدم الذكاء الاصطناعي.

Many of you may have spoken with a computer,

ربما تحدث العديد منكم باستخدام جهاز كمبيوتر،

and a computer understood you

وقد تفهمكم الكمبيوتر

and spoke back to you.

وتحدث معكم مرة أخرى.

With the rate of progress being that it is,

مع معدل التقدم الحالي،

it's not difficult to imagine that at some point in the future,

ليس من الصعب تخيل أنه في مرحلة ما في المستقبل،

our intelligent computers will become as smart or smarter than people.

ستصبح أجهزة الكمبيوتر الذكية لدينا ذكية أو أكثر ذكاءً من الناس.

And it's also not difficult to imagine that when that happens,

وليس من الصعب أيضًا تخيل أنه عندما يحدث ذلك،

the impact of such artificial intelligence

سيكون تأثير مثل هذا الذكاء الاصطناعي

is going to be truly, truly vast.

هائلاً حقًا.

And you may wonder:

وقد تتساءلون:

Is it going to be OK when technology is so impactful?

هل سيكون الأمر على ما يرام عندما تكون التكنولوجيا مؤثرة جدًا؟

And here my goal is to point out the existence of a force

وهنا هدفي هو الإشارة إلى وجود قوة

that many of you may have not noticed,

ربما لم يلاحظها الكثير منكم،

that gives me hope that indeed,

وهذا يعطيني الأمل

we will be happy with the result.

في أننا سنكون سعداء بالنتيجة بالفعل.

So artificial intelligence.

لذا الذكاء الاصطناعي.

What is it, and how does it work?

ما هو وكيف يعمل؟

Well, it turns out that it's very easy to explain

حسنًا، اتضح أنه من السهل جدًا شرح

how artificial intelligence works.

كيفية عمل الذكاء الاصطناعي.

Just one sentence.

جملة واحدة فقط.

Artificial intelligence is nothing but digital brains

الذكاء الاصطناعي ليس سوى أدمغة رقمية

inside large computers.

داخل أجهزة الكمبيوتر الكبيرة.

That's what artificial intelligence is.

هذا هو الذكاء الاصطناعي.

Every single interesting AI that you've seen

كل ذكاء اصطناعي مثير للاهتمام رأيته

is based on this idea.

يعتمد على هذه الفكرة.

Over the decades,

على مر العقود،

scientists and engineers have been figuring out

كان العلماء والمهندسون يكتشفون

how such digital brains should work

كيف يجب أن تعمل هذه الأدمغة الرقمية

and how to build them, how to engineer them.

وكيفية بنائها، وكيفية هندستها.

Now, I find it interesting

الآن، أجد أنه من المثير للاهتمام

that the seat of intelligence in human beings is our biological brain.

أن مقر الذكاء في البشر هو دماغنا البيولوجي.

It is fitting that the seat of intelligence

من المناسب أن يكون مقر الذكاء

in artificial intelligence

في الذكاء الاصطناعي

is an artificial brain.

هو الدماغ الاصطناعي.

Here, I'd like to take a digression and tell you about how I got into AI.

هنا، أود أن آخذ استطرادًا وأخبركم كيف دخلت في الذكاء الاصطناعي.

There were three forces that pulled me into it.

كانت هناك ثلاث قوى دفعتني إلى ذلك.

The first one was that when I was a little child,

الأول هو أنني عندما كنت طفلاً صغيرًا،

at around the age of five or six,

في سن الخامسة أو السادسة تقريبًا،

I was very struck by my own conscious experience,

أدهشتني تجربتي الواعية،

by the fact that I am me and I am experiencing things.

بحقيقة أنني أنا وأختبر الأشياء.

That when I look at things, I see them.

عندما أنظر إلى الأشياء، أراها.

Like, this feeling over time went away, though,

مثل، هذا الشعور بمرور الوقت ذهب بعيدًا،

by simply mentioning it to you right now it comes back.

بمجرد ذكره لك الآن يعود.

But this this feeling of ...

لكن هذا الشعور بـ...

That I am me, that you are you,

أنني أنا، وأنكم أنتم،

I found it very strange and very disturbing almost.

وجدت الأمر غريبًا جدًا ومزعجًا جدًا تقريبًا.

And so when I learned about artificial intelligence,

وهكذا عندما تعلمت عن الذكاء الاصطناعي،

I thought, wow, if we could build a computer

ذهلت جداً، إذا تمكنا من بناء جهاز كمبيوتر

that is intelligent,

ذكي،

maybe we will learn something about ourselves,

فربما نتعلم شيئًا عن أنفسنا،

about our own consciousness.

عن وعينا.

That was my first motivation that pulled me towards AI.

كان هذا هو حافزي الأول الذي دفعني نحو الذكاء الاصطناعي.

The second motivation was more pedestrian in a way.

كان الدافع الثاني هو زيادة المشاة بطريقة ما.

I was simply curious about how intelligence works.

كنت أشعر بالفضول ببساطة حول كيفية عمل الذكاء.

And when I was a teenager, an early teenager in the late '90s,

وعندما كنت مراهقًا، مراهقًا مبكرًا في أواخر التسعينيات، كان الشعور

the sense that I got is that science simply did not know

الذي شعرت به هو أن العلم ببساطة لم يكن يعرف

how intelligence worked.

كيف يعمل الذكاء.

There was also a third reason,

كان هناك أيضًا سبب ثالثًا،

which is that it was clear to me back then

وهو أنه كان من الواضح لي في ذلك الوقت

that artificial intelligence,

أن الذكاء الاصطناعي،

if it worked, it would be incredibly impactful.

إذا نجح، فسيكون مؤثرًا بشكل لا يصدق.

Now, it wasn't at all obvious

الآن، لم يكن من الواضح على الإطلاق

that it will be possible to make progress in artificial intelligence,

أنه سيكون من الممكن إحراز تقدم في الذكاء الاصطناعي،

but if it were possible to make progress in artificial intelligence,

ولكن إذا كان من الممكن إحراز تقدم في الذكاء الاصطناعي،

that would be incredibly impactful.

فسيكون ذلك مؤثرًا بشكل لا يصدق.

So these were the three reasons that pulled me towards AI.

لذلك كانت هذه هي الأسباب الثلاثة التي دفعتني نحو الذكاء الاصطناعي.

That's why I thought that's a great area to spend all my efforts on.

لهذا السبب اعتقدت أن هذه منطقة رائعة لقضاء كل جهودي عليها.

So now let's come back to our artificial intelligence,

لذا دعونا الآن نعود إلى ذكائنا الاصطناعي،

the digital brains.

العقول الرقمية.

Today, these digital brains

اليوم، أصبحت هذه العقول الرقمية

are far less smart than our biological brains.

أقل ذكاءً بكثير من أدمغتنا البيولوجية.

When you speak to an AI chat bot,

عندما تتحدث إلى روبوت دردشة للذكاء الاصطناعي،

you very quickly see that it's not all there,

سترون بسرعة كبيرة أنه ليس كل شيء موجودًا،

that it's, you know,

وأنه، كما تعلمون،

it understands mostly, sort of.

يفهم في الغالب، نوعًا ما.

But you can clearly see that there are so many things it cannot do

لكن يمكنكم أن تروا بوضوح أن هناك الكثير من الأشياء التي لا يمكنها القيام بها

and that there are some strange gaps.

وأن هناك بعض الفجوات الغريبة.

But this situation, I claim, is temporary.

لكن هذا الوضع، كما أدعي، مؤقت.

As researchers and engineers continue to work on AI,

مع استمرار الباحثين والمهندسين في العمل على الذكاء الاصطناعي،

the day will come when the digital brains that live inside our computers

وسيأتي اليوم الذي ستصبح فيه العقول الرقمية داخل أجهزة الكمبيوتر لدينا

will become as good and even better than our own biological brains.

جيدة بل وأفضل من أدمغتنا البيولوجية.

Computers will become smarter than us.

سوف تصبح أجهزة الكمبيوتر أكثر ذكاء منا.

We call such an AI an “AGI,” artificial general intelligence.

ونطلق على هذا الذكاء الاصطناعي اسم "الذكاء الاصطناعي العام".

When we can say that the level at which we can teach the AI to do anything

عندما يمكننا القول أن المستوى الذي يمكننا فيه تعليم الذكاء الاصطناعي القيام بأي شيء

that, for example, I can do, or someone else.

هذا، على سبيل المثال، يمكنني القيام به، أو أي شخص آخر.

So although AGI does not exist today,

لذلك على الرغم من أن الذكاء الاصطناعي العام غير موجود اليوم،

we can still gain a little bit of an insight

لا يزال بإمكاننا اكتساب القليل من البصيرة

into the impact of AGI once it's built.

حول تأثير الذكاء الاصطناعي العام بمجرد بنائه.

It is completely obvious

من الواضح تمامًا

that such an AGI will have a dramatic impact

أن مثل هذا الذكاء الاصطناعي العام سيكون له تأثير كبير

on every area of life, of human activity and society.

على كل مجال من مجالات الحياة والنشاط البشري والمجتمع.

And I want to go over a quick case study.

وأريد مراجعة دراسة حالة سريعة.

This is a narrow example of a very, very broad technology.

هذا مثال ضيق لتقنية واسعة جدًا.

The example I want to present is health care.

المثال الذي أريد تقديمه هو الرعاية الصحية.

Many of you may have had the experience of trying to go to a doctor.

ربما مر الكثير منكم بتجربة محاولة الذهاب إلى الطبيب.

You need to wait for many months sometimes,

تحتاج إلى الانتظار لعدة أشهر في بعض الأحيان،

and then when you do get to see a doctor, you get a small,

وبعد ذلك عندما تتمكن من رؤية الطبيب، تحصل على فترة زمنية صغيرة

very limited amount of time with the doctor

ومحدودة للغاية مع الطبيب

and furthermore, the doctor, being only human,

علاوة على ذلك، يمكن للطبيب، كونه إنسانًا فقط،

can have only limited knowledge of all this,

أن يكون لديه معرفة محدودة فقط

all the medical knowledge that exists.

كل المعرفة الطبية الموجودة.

And then by the end of it, you get a very large bill.

ثم بنهاية الأمر، تحصل على فاتورة كبيرة جدًا.

(Laughter)

(ضحك)

Well, if you have an intelligent computer, an AGI, that is built to be a doctor,

حسنا، إذا كان لديكم كمبيوتر ذكي يعمل بالذكاء الاصطناعي العام

it will have complete and exhaustive knowledge of all medical literature.

فسيكون لديه معرفة كاملة وشاملة بجميع المؤلفات الطبية.

It will have billions of hours of clinical experience,

سيكون لديه مليارات الساعات من الخبرة السريرية،

and it will be always available and extremely cheap.

وستكون متاحة دائمًا ورخيصة للغاية.

When this happens,

عندما يحدث هذا،

we will look back at today's health care

سننظر إلى الرعاية الصحية الحالية

similarly to how we look at 16th century dentistry.

بشكل مشابه للطريقة التي ننظر بها إلى طب الأسنان في القرن السادس عشر.

(Laughter)

(ضحك)

You know, when they tied people with belts and then have this drill,

عندما ربطوا الناس بالأحزمة ثم قاموا بهذا التدريب،

that's how today's health care will look like.

هكذا ستبدو الرعاية الصحية اليوم.

And again, to emphasize, this is just one example.

ومرة أخرى، للتأكيد، هذا مجرد مثال واحد.

This is just one example.

هذا مجرد مثال واحد.

AGI will have dramatic and incredible impact

سيكون للذكاء الاصطناعي العام تأثير كبير ومذهل

on every single area of human activity.

على كل مجال من مجالات النشاط البشري.

But when you see impact this large, you may wonder, "Gosh,

ولكن عندما ترون تأثيرًا بهذا الحجم، قد تتساءلون، "يا إلهي،

isn't this technology too impactful?"

أليست هذه التكنولوجيا مؤثرة جدًا؟"

And indeed, for every positive application of AGI,

وبالفعل، مقابل كل تطبيق إيجابي لالذكاء الاصطناعي العام،

there will be a negative application as well.

سيكون هناك تطبيق سلبي أيضًا.

This technology is also going to be different

ستكون هذه التكنولوجيا أيضًا مختلفة

from technologies that we are used to,

عن التقنيات التي اعتدنا عليها،

because it will have the ability to improve itself.

لأنها ستكون لديها القدرة على تحسين نفسها.

It is possible to build an AGI

من الممكن بناء الذكاء الاصطناعي العام

that will work on the next generation of AGI.

الذي سيعمل على الجيل التالي من الذكاء الاصطناعي العام.

The closest analogue we have to this kind of rapid technological improvement

أقرب نظير لدينا لهذا النوع من التحسين التكنولوجي السريع

is when the Industrial Revolution has taken place, where humans,

هو عندما حدثت الثورة الصناعية، حيث كان البشر،

the material condition of human society, was very, very constant.

و حالتهم المادية للمجتمع البشري، ثابتة جدًا جدًا.

And then it was a rapid increase, rapid growth.

ثم كانت الزيادة السريعة والنمو السريع.

With AGI,

مع الذكاء الاصطناعي العام،

something like this could happen again, but on a shorter timescale.

يمكن أن يحدث شيء من هذا القبيل مرة أخرى، ولكن على نطاق زمني أقصر.

And then furthermore,

علاوة على ذلك،

there are concerns around

هناك مخاوف حول ما

if an AGI ever becomes very, very powerful,

إذا كان جهاز الذكاء الاصطناعي العام قد أصبح قويًا جدًا جدًا،

which is possible,

وهو أمر ممكن،

maybe it will want to go rogue being that it is an agent.

فربما يريد أن يصبح مارقًا لكونه وكيلًا.

So this is a concern that exists with this unprecedented,

لذا فإن هذا مصدر قلق موجود مع هذه التكنولوجيا

not yet existing technology.

غير المسبوقة وغير الموجودة بعد.

And indeed,

وبالفعل،

you look at all the positive potential of AGI

تنظر إلى كل الإمكانات الإيجابية لـ الذكاء الاصطناعي العام

and all the concerning possibilities of AGI as well,

وجميع الاحتمالات المتعلقة بالذكاء الاصطناعي العام أيضًا،

and you may say, "Gosh, where is this all headed?"

وقد تقولون، "يا إلهي، إلى أين يتجه كل هذا؟"

One of my motivations in creating OpenAI was,

كان أحد دوافعي في إنشاء OpenAI،

in addition to developing this technology,

بالإضافة إلى تطوير هذه التكنولوجيا،

was also to address the questions

هو أيضًا معالجة الأسئلة

that are posed by AGI, the difficult questions,

التي طرحها الذكاء الاصطناعي العام، والأسئلة الصعبة، والمخاوف

the concerns that we raised.

التي طرحناها.

In addition to working with governments

بالإضافة إلى العمل مع الحكومات

and helping them understand what is coming and prepare for it,

ومساعدتها على فهم ما هو قادم والاستعداد له،

we are also doing a lot of research

فإننا نقوم أيضًا بالكثير من الأبحاث

on addressing the technological side of things,

حول معالجة الجانب التكنولوجي للأشياء،

so that the AI will never want to go rogue.

حتى لا يرغب الذكاء الاصطناعي أبدًا في أن يصبح مارقًا.

And this is something which I’m working on as well.

وهذا شيء أعمل عليه أيضًا.

But I think, the thing to note,

لكنني أعتقد، الشيء الذي يجب ملاحظته،

because AI and AGI is really the only area of the economy

لأن الذكاء الاصطناعي والذكاء الاصطناعي العام هو حقًا المجال الوحيد للاقتصاد

where there is a lot of excitement, a lot of investment,

حيث يوجد الكثير من الإثارة، والكثير من الاستثمار،

everyone is working on it,

ويعمل الجميع على ذلك،

there's a huge number of labs in the world trying to build the same thing.

وهناك عدد كبير من المختبرات في العالم تحاول بناء نفس الشيء.

Even if OpenAI takes these desirable steps that I mentioned,

حتى لو اتخذت أوبن اي آي هذه الخطوات المرغوبة التي ذكرتها،

what about the rest of the companies and the rest of the world?

فماذا عن بقية الشركات وبقية العالم؟

And this is where I want to make my observation

وهذا هو المكان الذي أريد أن أبدي فيه ملاحظتي

about the force that exists.

حول القوة الموجودة.

The observation is this: consider the world one year ago,

الملاحظة هي: تأمل العالم قبل عام واحد،

as recently as one year ago.

ومؤخرًا قبل عام واحد.

People weren't really talking about AI, not in the same way at all.

لم يكن الناس يتحدثون حقًا عن الذكاء الاصطناعي، ليس بنفس الطريقة على الإطلاق.

What happened?

ماذا حدث؟

We all experienced what it's like to talk to a computer and to be understood.

لقد اختبرنا جميعًا ما يشبه التحدث إلى جهاز كمبيوتر وأن يتم فهمنا.

The idea that computers will become really intelligent

أصبحت فكرة أن أجهزة الكمبيوتر ستصبح ذكية حقًا

and eventually more intelligent than us is becoming widespread.

وفي النهاية أكثر ذكاءً منا منتشرة على نطاق واسع.

It used to be a niche idea that only a few enthusiasts

لقد اعتادت أن تكون فكرة متخصصة لم يفكر فيها سوى عدد قليل من المتحمسين

and hobbyists and people who were very into AI were thinking about.

والهواة والأشخاص الذين كانوا مهتمين جدًا بالذكاء الاصطناعي.

But now everyone is thinking about it.

ولكن الآن الجميع يفكر في ذلك.

And as the AI continues to make progress,

ومع استمرار الذكاء الاصطناعي في إحراز تقدم،

as technology continues to advance,

مع استمرار تقدم التكنولوجيا،

as more and more people see what AI can do

حيث يرى المزيد والمزيد من الناس ما يمكن أن يفعله الذكاء الاصطناعي

and where it is headed towards,

وإلى أين يتجه إليه،

then it will become clear just how dramatic,

فسيصبح من الواضح مدى الدراماتيكية

incredible and ...

المذهلة و...

almost fantastical AGI is going to be

سيكون الذكاء الاصطناعي العام خياليًا تقريبًا

and how much trepidation is appropriate.

وكم هو مناسب من الخوف.

And what I claim will happen is that people will start to act

وما أدعي أنه سيحدث هو أن الناس سيبدأون في التصرف

in unprecedentedly collaborative way out of their own self-interest.

بطريقة تعاونية غير مسبوقة من أجل مصلحتهم الذاتية.

It's already happening right now.

إنه يحدث بالفعل الآن.

You see the leading AGI companies starting to collaborate

ترون شركات الذكاء الاصطناعي العام الرائدة تبدأ في التعاون

for a specific example, through the Frontier Model Forum.

للحصول على مثال محدد، من خلال منتدى فرونتير مودل.

And we will expect that companies that are competitors

ونتوقع أن تقوم الشركات المنافسة

will share technical information to make their AIs safe.

بمشاركة المعلومات التقنية لجعل الذكاء الاصطناعي الخاص بها آمنًا.

We may even see governments do this.

قد نرى حتى الحكومات تفعل ذلك.

For another example,

على سبيل المثال،

at OpenAI, we really believed in how dramatic AGI is going to be.

في OpenAI، كنا نؤمن حقًا بمدى دراماتيكية الذكاء الاصطناعي العام.

So one of the ideas that we were operating by,

لذا إحدى الأفكار التي كنا نعمل بها،

and it's been written on our website for five years now,

وقد كُتب على موقعنا الإلكتروني منذ خمس سنوات حتى الآن،

that when technology gets such that we are very, very close to AGI,

أنه عندما تصبح التكنولوجيا قريبة جدًا جدًا من الذكاء الاصطناعي العام،

to computers smarter than humans,

من أجهزة الكمبيوتر الأكثر ذكاءً من البشر،

and if some other company is far ahead of us,

وإذا كانت هناك شركة أخرى تسبقنا كثيرًا،

then rather than compete with them,

فبدلاً من التنافس معها،

we will help them out, join them, in a sense.

سنساعدها، وننضم إليها، بطريقة ما.

And why do that?

ولماذا تفعلون ذلك؟

Because we feel, we appreciate

نظرًا لأننا نشعر، فإننا نقدر

how incredibly dramatic AGI is going to be.

مدى دراماتيكية الذكاء الاصطناعي العام بشكل لا يصدق.

And my claim is that with each generation of capability advancements,

وزعمي هو أنه مع كل جيل من التطورات في القدرات،

as AI gets better

ومع تحسن الذكاء الاصطناعي

and as all of you experience what AI can do,

وتجربة جميعكم لما يمكن للذكاء الاصطناعي القيام به،

as people who run AI efforts and AGI efforts

حيث أن الأشخاص الذين يديرون جهود الذكاء الاصطناعي وجهود الذكاء الاصطناعي العام

and people who work on them will experience it as well,

والأشخاص الذين يعملون عليه سيختبرون ذلك أيضًا،

this will change the way we see AI and AGI,

ستغير هذه الطريقة التي نرى بها الذكاء الاصطناعي والذكاء الاصطناعي العام،

and that will change collective behavior.

وهذا سيغير السلوك الجماعي.

And this is an important reason

وهذا سبب مهم

why I'm hopeful

لأنني متفائل

that despite the great challenges that's posed by this technology,

أنه على الرغم من التحديات الكبيرة التي تفرضها هذه التكنولوجيا،

we will overcome them.

سنتغلب عليها.

Thank you.

شكرًا لكم.

(Applause)

(تصفيق)