How to Keep AI Under Control | Max Tegmark | TED

المترجم: أكرم رولاف المدقّق: Karam Kassam Alhinnawi

Five years ago,

قبل خمس سنوات،

I stood on the TED stage

وقفت على منصة TED

and warned about the dangers of superintelligence.

وحذرت من مخاطر الذكاء الخارق في المستقبل.

I was wrong.

لقد كنت مُخطئاً.

It went even worse than I thought.

فقد تبين أن الأمر أسوأ مما كنت أتوقع.

(Laughter)

(ضحك)

I never thought governments would let AI companies get this far

لم أتوقع أبداً أن حكومات الدول ستسمح لشركات الذكاء الاصطناعي أن تبلغ هذا الحد

without any meaningful regulation.

دون تطبيق أي قيود ذات معنى.

And the progress of AI went even faster than I predicted.

وقد تقدم الذكاء الاصطناعي بشكل أسرع مما توقعت أيضاً.

Look, I showed this abstract landscape of tasks

انظروا هنا، لقد عرضت هذا التمثيل المرئي لمجموعة من المهام

where the elevation represented how hard it was for AI

حيث كلما زاد الارتفاع كان أصعب على الذكاء الاصطناعي

to do each task at human level.

القيام بتلك المهمة بنفس كفاءة البشر.

And the sea level represented what AI could be back then.

ويمثل مستوى سطح البحر ما كان الذكاء قادراً عليه حينها.

And boy or boy, has the sea been rising fast ever since.

ويالسرعة التي بدأ مستوى البحر يعلو بها منذ ذلك الحين.

But a lot of these tasks have already gone blub blub blub blub blub blub.

إذ إن كثيراً من هذه المهام أصبحت في جوف البحر بالفعل.

And the water is on track to submerge all land,

ولا تزال المياه في طريقها لغمر ما بقي منها.

matching human intelligence at all cognitive tasks.

مما سيجعلها مكافئةً للذكاء البشري في جميع المهام العقلية.

This is a definition of artificial general intelligence, AGI,

هذا هو تعريف الذكاء العام الاصطناعي،

أو ما يُعرف كذلك بـ AGI،

which is the stated goal of companies like OpenAI,

وهو الهدف الذي أعلنت عدة شركات نيتها بلوغه منها OpenAI

Google DeepMind and Anthropic.

وGoogle DeepMind وAnthropic.

And these companies are also trying to build superintelligence,

وتحاول هذه الشركات أيضاً بناء الذكاء الخارق،

leaving human intelligence far behind.

والذي يمكنه التفوق على الذكاء البشري بمراحل.

And many think it'll only be a few years, maybe, from AGI to superintelligence.

ويؤمن الكثير بأنه لا تفصلنا إلا سنوات قليلة للانتقال من AGI للذكاء الخارق.

So when are we going to get AGI?

إذن متى سنصل لمرحلة AGI ؟

Well, until recently, most AI researchers thought it was at least decades away.

حسناً، حتى وقت قريب، كان يعتقد معظم باحثي الذكاء الاصطناعي أن الأمر سيأخذ عقوداً.

And now Microsoft is saying, "Oh, it's almost here."

لكن الآن تقول مايكروسوفت أننا على بعد خُطوة من بلوغه.

We're seeing sparks of AGI in ChatGPT-4,

نحن نشهد أولى بذور الذكاء الاصطناعي العام في ChatGPT-4،

and the Metaculus betting site is showing the time left to AGI

ويظهر موقع Metaculus للمراهنات الوقت المتبقي لبلوغ مرحلة الـAGI

plummeting from 20 years away to three years away

حيث انخفض من 20 سنةً إلى ثلاث سنوات في الثمانية عشر شهراً الماضية.

in the last 18 months.

And leading industry people are now predicting

ويتوقع الخبراء الرائدون في هذا المجال

that we have maybe two or three years left until we get outsmarted.

أن الذكاء الاصطناعي سيتفوق على الذكاء البشري في غضون عامين أو ثلاثة.

So you better stop talking about AGI as a long-term risk,

لذا يجب أن تتوقف عن اعتبار الذكاء الاصطناعي العام خطراً على المدى الطويل،

or someone might call you a dinosaur stuck in the past.

أو قد تُوصُف بالديناصور العالق في الماضي.

It's really remarkable how AI has progressed recently.

لأن أقل ما يُقال عن التقدم الذي أحرزه الذكاء الاصطناعي مُؤخراً أنه مُذهل.

Not long ago, robots moved like this.

منذ وقت قريب، كانت الروبوتات تتحرك هكذا.

(موسيقى)

(Music)

Now they can dance.

والآن يمكنها الرقص.

(Music)

(موسيقى)

Just last year, Midjourney produced this image.

في العام الماضي فقط، صنعت Midjourney هذه الصورة.

This year, the exact same prompt produces this.

هذا العام، يمكن لنفس هذا النظام صنع هذا.

Deepfakes are getting really convincing.

وأصبحت تقنية Deepfake تنجح في خداع الكثيرين.

[فيديو deepfake لتوم كروز]

(Video) Deepfake Tom Cruise: I’m going to show you some magic.

سأريكم بعض السحر.

It's the real thing.

إنه شيء حقيقي.

(Laughs)

(ضحك)

I mean ...

أعني...

It's all ...

كل شيء...

the real ...

حقيقي...

thing.

Max Tegmark: Or is it?

ماكس تيجمارك: أهو كذلك حقّاً؟

And Yoshua Bengio now argues

ويقول يوشوا بنجيو الآن بأن نماذج اللغات الكبيرة أتقنت اللغة وعلومها

that large language models have mastered language

and knowledge to the point that they pass the Turing test.

للدرجة التي تمكنها من اجتياز امتحان تورينج.

I know some skeptics are saying,

أعلم أن بعض المتشككين سيقولون،

"Nah, they're just overhyped stochastic parrots

"إنها مجرد أنظمة مضخمة إعلامياً تكرر ما تعلمته عشوائياً

that lack a model of the world,"

وتفتقر فهماً للعالم الحقيقي"

but they clearly have a representation of the world.

لكن من الواضح أنها تعكس العالم بدرجة كبيرة.

In fact, we recently found that Llama-2 even has a literal map of the world in it.

في الواقع، وجدنا مؤخراً أن Llama-2 يحتوي حتى على خريطة حقيقية للعالم.

And AI also builds

كما يبني الذكاء الاصطناعي تمثيلات هندسيةً لمفاهيم أكثر تجريداً

geometric representations of more abstract concepts

like what it thinks is true and false.

مثل لما هو صواب أو خطأ في ظنه.

So what's going to happen if we get AGI and superintelligence?

إذن ماذا سيحدث إذا بلغنا مرحلة الذكاء الاصطناعي العام والذكاء الفائق؟

If you only remember one thing from my talk, let it be this.

وأريدك أن تتذكر شيئاً واحداً مهمّاً من حديثي هذا،

AI godfather, Alan Turing predicted

وهو أن آلان تورينج، الأب الروحي للذكاء الاصطناعي،

that the default outcome is the machines take control.

توقع أن هذا التطور في الذكاء الاصطناعي سينتهي بسيطرة الآلات على الأرجح.

The machines take control.

سينتهي بسيطرة الآلات.

I know this sounds like science fiction,

أعلم أن هذا أشبه بالخيال العلمي منه إلى الحقيقة،

but, you know, having AI as smart as GPT-4

ولكن، امتلاك نظام ذكاء اصطناعي بنفس كفاءة GPT-4

also sounded like science fiction not long ago.

كان أيضاً أشبه بالخيال العلمي منذ وقت ليس ببعيد.

And if you think of AI,

وإذا كنت تتخيل الذكاء الاصطناعي،

if you think of superintelligence in particular, as just another technology,

أو الذكاء الفائق على وجه الخصوص،

على أنه مجرد تقنية عادية، مثل الكهرباء،

like electricity,

you're probably not very worried.

فلن تكون في الغالب قلقاً للغاية.

But you see,

لكن كما ترى، يعتقد تورينج أن الذكاء الخارق أشبه بنوع حي جديد.

Turing thinks of superintelligence more like a new species.

Think of it,

فكر في الأمر، فنحن نبني وحوشاً مخيفةً خارقة الذكاء بلا ضمير

we are building creepy, super capable,

amoral psychopaths

that don't sleep and think much faster than us,

لا تنام وتفكر بشكل أسرع منا،

can make copies of themselves

وتستطيع تشكيل نسخ من أنفسها وليس لديها أي صفات بشرية على الإطلاق.

and have nothing human about them at all.

So what could possibly go wrong?

فما الخطير إذن في هذا؟

(Laughter)

(ضحك)

And it's not just Turing.

وليس تورنج فقط من قال هذا.

OpenAI CEO Sam Altman, who gave us ChatGPT,

حذر سام ألتمان، رئيس شركة OpenAI، الذي أنتج لنا ChatGPT،

recently warned that it could be "lights out for all of us."

مُؤخراً من أن هذا الذكاء الخارق قد يُدمر البشرية جمعاء.

Anthropic CEO, Dario Amodei, even put a number on this risk:

حتى أن رئيس شركة Anthropic، داريو أمودي، وضع تقديراً لنسبة هذا الخطر:

10-25 percent.

25-10 بالمائة.

And it's not just them.

وليس هؤلاء فقط.

Human extinction from AI went mainstream in May

أصبح الانقراض البشري نتيجة الذكاء الاصطناعي حديث الساعة في مايو

when all the AGI CEOs and who's who of AI researchers

عندما خرج جميع الرؤساء التنفيذيين للشركات التي تعمل في مجال AGI

وباحثون في الذكاء الاصطناعي وحذروا من ذلك.

came on and warned about it.

And last month, even the number one of the European Union

وفي الشهر الماضي، حتى أعلى الرؤساء في الاتحاد الأوروبي

warned about human extinction by AI.

حذروا من الانقراض البشري نتيجة الذكاء الاصطناعي.

So let me summarize everything I've said so far

لذا اسمحوا لي أن ألخص كل ما قلته حتى الآن في قطعة واحدة من ميمات القطط.

in just one slide of cat memes.

Three years ago,

قبل ثلاث سنوات، كان الناس يقولون إن الذكاء الخارق أمر لا مفر منه،

people were saying it's inevitable, superintelligence,

it'll be fine,

لكن كل شيء سيكون على ما يرام،

it's decades away.

وهو لا يزال على بعد عقود.

Last year it was more like,

في العام الماضي كان الخبراء يقولون

It's inevitable, it'll be fine.

إنه أمر لا مفر منه، لكنه سيمر على خير.

Now it's more like,

الآن أصبحوا يقولون،

It's inevitable.

إنه أمر لا مفر منه.

(Laughter)

(ضحك)

But let's take a deep breath and try to raise our spirits

لكن فلنأخذ نفساً عميقاً ونحاول رفع معنوياتنا والتنفيس عن أنفسنا،

and cheer ourselves up,

because the rest of my talk is going to be about the good news,

لأنني في بقية حديثي سأتحدث عن الجانب الإيجابي،

that it's not inevitable, and we can absolutely do better,

وأشرح كيف أن هذه الأخطار ليست حتميةً وأننا بإمكاننا تجنبها،

alright?

اتفقنا؟

(Applause)

(تصفيق)

So ...

لذا...

The real problem is that we lack a convincing plan for AI safety.

المشكلة الحقيقية هي أننا نفتقر لخطة تثبت قدرتها على جعل الذكاء الاصطناعي آمناً.

People are working hard on evals

يعمل الناس بجد على عمليات الفحص،

بحثاً عن أي علامة خطر من الذكاء الاصطناعي، وهذا أمر جدير بالاحترام،

looking for risky AI behavior, and that's good,

but clearly not good enough.

لكنه ليس كافياً.

They're basically training AI to not say bad things

لأنهم في الأساس يقومون بتدريب الذكاء الاصطناعي على عدم قول أشياء سيئة

rather than not do bad things.

بدلاً من عدم القيام بأشياء سيئة.

Moreover, evals and debugging are really just necessary,

كذلك، تعتبر عمليات التقييم وتصحيح الأخطاء من الشروط الضرورية،

not sufficient, conditions for safety.

للسلامة لكنها ليست كافيةً وحدها.

In other words,

وبعبارة أخرى،

they can prove the presence of risk,

يمكنها إثبات وجود المخاطر وليس غيابها.

not the absence of risk.

So let's up our game, alright?

لذا دعونا نرفع من مجهودنا، حسناً؟

Try to see how we can make provably safe AI that we can control.

يجب أن نحاول إيجاد طريقة يمكننا بها

صنع ذكاء اصطناعي يَثبُت أنه آمن ونستطيع التحكم فيه.

Guardrails try to physically limit harm.

تحاول الإجراءات الوقائية المُتّخذة الحد من الضرر المادي.

But if your adversary is superintelligence

ولكن إذا كان خصمك هو الذكاء الخارق

or a human using superintelligence against you, right,

أو شخصاً يستخدم الذكاء الخارق ضدك،

trying is just not enough.

فالمحاولة لن تفيدك.

You need to succeed.

أنت بحاجة للفوز.

Harm needs to be impossible.

على احتمالية إحداث أي ضرر ضدك أن تكون مستحيلةً.

So we need provably safe systems.

لذلك نحن بحاجة إلى أنظمة تُثبِتُ أنها آمنة بشكل عملي.

Provable, not in the weak sense of convincing some judge,

ولا أعني بالفعل “تثبت” معناه الضعيفَ المُتمثلَ في إقناع الناس،

but in the strong sense of there being something that's impossible

ولكن بمعناه القوي وهو إثبات أن وقوع شيء ما مستحيل وفقاً لقوانين الفيزياء.

according to the laws of physics.

Because no matter how smart an AI is,

فبغض النظر عن مدى قدرة الذكاء الاصطناعي،

it can't violate the laws of physics and do what's provably impossible.

فإنه لا يمكنه خرق قوانين الفيزياء والقيام بما يَثبُت أنه مستحيل.

Steve Omohundro and I wrote a paper about this,

كتبت أنا وستيف أوموهوندرو ورقةً حول هذا الأمر،

and we're optimistic that this vision can really work.

ونحن متفائلون بأن هذه الرؤية يمكن أن تنجح حقّاً.

So let me tell you a little bit about how.

لذا اسمحوا لي أن أخبركم عن طريقة حدوث هذا.

There's a venerable field called formal verification,

هناك فرع مرموق في علم الحاسب يسمى التحقق الشكلي،

which proves stuff about code.

ويثمثل في إثبات طريقة عمل تعليمة برمجية ما.

And I'm optimistic that AI will revolutionize automatic proving business

وأنا متفائل بأن الذكاء الاصطناعي سيحدث ثورة في مجال الإثبات التلقائي

and also revolutionize program synthesis,

وسيحدث أيضاً ثورة بمجال تركيب البرامج، وهو القدرة على كتابة برنامج فعال تلقائيّاً.

the ability to automatically write really good code.

So here is how our vision works.

إذن هذا هو مبدأ عمل رؤيتنا.

You, the human, write a specification

أنت، الإنسان، تكتب المواصفات،

that your AI tool must obey,

التي يجب أن تلتزم بها أداة الذكاء الاصطناعي الخاصة بك،

that it's impossible to log in to your laptop

مثل منع تسجيل الدخول إلى الكمبيوتر بدون كلمة المرور الصحيحة،

without the correct password,

or that a DNA printer cannot synthesize dangerous viruses.

أو منع طابعة الحمض النووي من تصنيع فيروسات خطيرة.

Then a very powerful AI creates both your AI tool

ثم يقوم برنامج ذكاء اصطناعي قوي بإنشاء الأداة التي تريدها

and a proof that your tool meets your spec.

وإنشاء إثبات بأن أداتك تلبي المواصفات التي طلبتها.

Machine learning is uniquely good at learning algorithms,

تتميز تقنيات التعلم الآلي ببراعتها في اكتشاف الخوارزميات بطريقة خاصة،

but once the algorithm has been learned,

ولكن بمجرد تعلم الخوارزمية،

you can re-implement it in a different computational architecture

يمكنك إعادة تنفيذها في بنية حسابية مختلفة يكون التحقق من عملها أسهل.

that's easier to verify.

Now you might worry,

قد تشعر بالقلق الآن،

how on earth am I going to understand this powerful AI

وتقول كيف سأفهم هذا الذكاء الاصطناعي القوي وأداته القوية التي صنعها والإثبات

and the powerful AI tool it built

and the proof,

إذا كانت جميعها معقدةً للغاية بحيث لا يستطيع إنسان فهمها؟

if they're all too complicated for any human to grasp?

Here is the really great news.

لدي لك بشرى رائعة.

You don't have to understand any of that stuff,

لا يتعين عليك فهم أي من هذه الأشياء،

because it's much easier to verify a proof than to discover it.

لأنه من الأسهل بكثير التحقق من الإثبات بدلاً من اكتشافه.

So you only have to understand or trust your proof-checking code,

لذلك عليك فقط فهم التعليمة البرمجية التي تتحقق من الإثبات أو التأكد من صحتها.

which could be just a few hundred lines long.

والتي قد تكون بطول بضع مئات من الأسطر فقط.

And Steve and I envision

وأنا وستيف نتوقع أنه في المستقبل

that such proof checkers get built into all our compute hardware,

ستكون أدوات التحقق من الإثباتات هذه مُدمجةً في جميع أجهزة الكمبيوتر،

so it just becomes impossible to run very unsafe code.

وهكذا يُصبح من المستحيل تشغيل تعليمات برمجية غير آمنة.

What if the AI, though, isn't able to write that AI tool for you?

لكن ماذا لو لم يكن الذكاء الاصطناعي قادراً على كتابة هذه الأداة القائمة عليه لك؟

Then there's another possibility.

في تلك الحالة هناك احتمال آخر.

You train an AI to first just learn to do what you want

وهو أن تقوم بتدريب الذكاء الاصطناعي ليتعلم أولاً القيام بما تريد

and then you use a different AI

ثم تستخدم برنامجاً آخر للذكاء الاصطناعي

to extract out the learned algorithm and knowledge for you,

يستخرج لك خوارزميات ومحتوى الذكاء الاصطناعي الأول،

like an AI neuroscientist.

مثل شبكة عصبية مبنية على الذكاء الاصطناعي.

This is in the spirit of the field of mechanistic interpretability,

وإن هذه العملية تعتبر جزءاً من مجال التفسير الآلي،

which is making really impressive rapid progress.

والذي يحقق تقدماً سريعاً ومُذهلاً حقّاً.

Provably safe systems are clearly not impossible.

ومن هنا نرى أن إنشاء أنظمة تُثبِت أمنها ليس أمراً مستحيلاً.

Let's look at a simple example

دعونا نأخذ مثالاً بسيطاً

of where we first machine-learn an algorithm from data

حيث نُنشئ أولاً خوارزميةً عن طريق تقنية التعلم الآلي من البيانات

and then distill it out in the form of code

ثم نحولها إلى شكل تعليمة برمجية يَثبُت أنها تُلبي المواصفات، حسناً؟

that provably meets spec, OK?

Let’s do it with an algorithm that you probably learned in first grade,

دعونا نفعل ذلك باستخدام خوارزمية تعلمتها في الصف الأول،

addition,

وهي الجمع،

وفيه تمر على كل رقم بدءاً من اليمين إلى اليسار،

where you loop over the digits from right to left,

and sometimes you do a carry.

وأحياناً تحتاج إلى القيام بالاحتفاظ.

We'll do it in binary,

سنفعل ذلك بالنظام الثنائي، كما لو كنت تعتمد على إصبعين بدلاً من عشرة.

as if you were counting on two fingers instead of ten.

And we first train a recurrent neural network,

نقوم أولاً بتدريب شبكة عصبية متكررة،

never mind the details,

والتفاصيل لا تهمك،

to nail the task.

وهذا لإنجاز المهمة.

So now you have this algorithm that you don't understand how it works

وستنتج هذه الخوارزمية التي لا تفهم طريقة عملها

والموجودة في صندوق أسود محدد بمجموعة من جداول الأرقام

in a black box

defined by a bunch of tables of numbers that we, in nerd speak,

والتي يُصطَلح عليها في هذا المجال باسم الوسائط.

call parameters.

Then we use an AI tool we built to automatically distill out from this

ثم نستخدم أداةً للذكاء الاصطناعي كنا قد أنشأناها لاستخراج

هذه الخوارزمية المُكتسَبة بشكل تلقائي على شكل برنامج Python.

the learned algorithm in the form of a Python program.

And then we use the formal verification tool known as Daphne

ومن ثم نستخدم أداة التحقق الرسمية المعروفة باسم Daphny

to prove that this program correctly adds up any numbers,

لإثبات أن هذا البرنامج يجمع أي مجموعة من الأرقام بشكل صحيح،

not just the numbers that were in your training data.

وليس فقط الأرقام الموجودة في بيانات التدريب.

So in summary,

باختصار،

provably safe AI, I'm convinced is possible,

أنا مؤمن بإمكانية جعل الذكاء الاصطناعي آمناً وإثبات أمنه عمليّاً،

but it's going to take time and work.

لكن الأمر سيأخذ بعض الوقت والجهد.

And in the meantime,

وحتى ذلك الحين،

let's remember that all the AI benefits

دعونا نتذكر أن جميع مزايا الذكاء الاصطناعي التي تُبهِر معظم الناس

that most people are excited about

actually don't require superintelligence.

لا تتطلب في الواقع هذا الذكاء الخارق.

We can have a long and amazing future with AI.

يمكننا أن نعيش مُستقبَلاً مُزدهراً ومُتطوراً مع الذكاء الاصطناعي العادي.

So let's not pause AI.

لهذا لا يجب علينا إيقاف الذكاء الاصطناعي كله.

Let's just pause the reckless race to superintelligence.

نحن بحاجة فقط إلى إيقاف السباق المتهور نحو الذكاء الخارق.

Let's stop obsessively training ever-larger models

يجب أن نوقف هذا التدريب المُتعجل لنماذج الذكاء الاصطناعي الكبيرة

that we don't understand.

التي لا نفهمها.

Let's heed the warning from ancient Greece

دعونا نأخذ بالنصيحة من تراث اليونان القديمة

and not get hubris, like in the story of Icarus.

ولا ندع الغرور يركبنا، كما في قصة إيكاروس.

Because artificial intelligence

لأن الذكاء الاصطناعي

is giving us incredible intellectual wings

يمنحنا أجنحةً

with which we can do things beyond our wildest dreams

يمكننا من خلالها بلوغ ما يفوق طموحاتنا العلمية العالية

if we stop obsessively trying to fly to the sun.

لكن إن بالغنا في مسعانا فسينتهي بنا الأمر إلى الشمس لتحرقنا.

Thank you.

شكراً لكم

(Applause)

(تصفيق)