How to Govern AI — Even If It’s Hard to Predict | Helen Toner | TED

المترجم: Khaled Radwan المدقّق: Hani Eldalees

When I talk to people about artificial intelligence,

عندما أتحدث إلى الناس عن الذكاء الاصطناعي،

something I hear a lot from non-experts is “I don’t understand AI.”

فإن الشيء الذي أسمعه كثيرًا من غير الخبراء هو “أنا لا أفهم الذكاء الاصطناعي”

But when I talk to experts, a funny thing happens.

ولكن عندما أتحدث إلى الخبراء، يحدث شيء مضحك.

They say, “I don’t understand AI, and neither does anyone else.”

يقولون: “أنا لا أفهم الذكاء الاصطناعي، ولا أي شخص آخر.”

This is a pretty strange state of affairs.

هذه حالة غريبة جدًا.

Normally, the people building a new technology

عادةً ما يفهم الأشخاص الذين يبنون تقنية جديدة

understand how it works inside and out.

كيفية عملها من الداخل والخارج.

But for AI, a technology that's radically reshaping the world around us,

ولكن بالنسبة للذكاء الاصطناعي، وهي تقنية تعيد تشكيل العالم من حولنا بشكل جذري،

that's not so.

فإن الأمر ليس كذلك.

Experts do know plenty about how to build and run AI systems, of course.

يعرف الخبراء الكثير عن كيفية بناء أنظمة الذكاء الاصطناعي وتشغيلها، بالطبع.

But when it comes to how they work on the inside,

ولكن عندما يتعلق الأمر بكيفية عملهم من الداخل،

there are serious limits to how much we know.

فهناك حدود جدية لمدى معرفتنا.

And this matters because without deeply understanding AI,

وهذا مهم لأنه بدون فهم عميق للذكاء الاصطناعي،

it's really difficult for us to know what it will be able to do next,

سيكون من الصعب علينا حقًا معرفة ما سيكون قادرًا على القيام به بعد ذلك،

or even what it can do now.

أو حتى ما يمكنه فعله الآن.

And the fact that we have such a hard time understanding

وحقيقة أننا نواجه صعوبة في فهم

what's going on with the technology and predicting where it will go next,

ما يحدث مع التكنولوجيا والتنبؤ إلى أين ستذهب بعد ذلك،

is one of the biggest hurdles we face in figuring out how to govern AI.

هي واحدة من أكبر العقبات التي نواجهها في معرفة كيفية التحكم في الذكاء الاصطناعي.

But AI is already all around us,

لكن الذكاء الاصطناعي موجود بالفعل حولنا،

so we can't just sit around and wait for things to become clearer.

لذلك لا يمكننا الجلوس والانتظار حتى تصبح الأمور أكثر وضوحًا.

We have to forge some kind of path forward anyway.

علينا أن نشق الطريق إلى الأمام على أي حال.

I've been working on these AI policy and governance issues

لقد عملت على قضايا سياسة الذكاء الاصطناعي والحوكمة هذه

for about eight years,

منذ حوالي ثماني سنوات،

First in San Francisco, now in Washington, DC.

أولاً في سان فرانسيسكو، والآن في واشنطن العاصمة.

Along the way, I've gotten an inside look

على طول الطريق، ألقيت نظرة من الداخل

at how governments are working to manage this technology.

على كيفية عمل الحكومات لإدارة هذه التكنولوجيا.

And inside the industry, I've seen a thing or two as well.

وداخل الصناعة، رأيت شيئًا أو اثنين أيضًا.

So I'm going to share a couple of ideas

لذلك سأشارك بعض الأفكار

for what our path to governing AI could look like.

حول الشكل الذي يمكن أن يبدو عليه طريقنا إلى إدارة الذكاء الاصطناعي.

But first, let's talk about what actually makes AI so hard to understand

لكن أولاً، دعونا نتحدث عن ما يجعل الذكاء الاصطناعي صعبًا للغاية

and predict.

للفهم والتنبؤ.

One huge challenge in building artificial "intelligence"

يتمثل أحد التحديات الكبيرة في بناء «الذكاء» الاصطناعي

is that no one can agree on what it actually means

في أنه لا يمكن لأحد الاتفاق على ما يعنيه في الواقع

to be intelligent.

أن تكون ذكيًا.

This is a strange place to be in when building a new tech.

هذا مكان غريب للتواجد فيه عند بناء تقنية جديدة.

When the Wright brothers started experimenting with planes,

عندما بدأ الأخوان رايت في تجربة الطائرات،

they didn't know how to build one,

لم يعرفوا كيفية بناء واحدة،

but everyone knew what it meant to fly.

لكن الجميع كانوا يعرفون معنى الطيران.

With AI on the other hand,

مع الذكاء الاصطناعي من ناحية أخرى،

different experts have completely different intuitions

يمتلك الخبراء المختلفون حدسًا مختلفًا تمامًا

about what lies at the heart of intelligence.

حول ما يكمن في صميم الذكاء.

Is it problem solving?

هل هو حل المشكلات؟

Is it learning and adaptation,

هل يتعلق الأمر بالتعلم والتكيف،

are emotions,

هل العواطف،

or having a physical body somehow involved?

أو وجود جسم مادي متورط بطريقة أو بأخرى؟

We genuinely don't know.

نحن حقا لا نعرف.

But different answers lead to radically different expectations

لكن الإجابات المختلفة تؤدي إلى توقعات مختلفة جذريًا

about where the technology is going and how fast it'll get there.

حول اتجاه التكنولوجيا ومدى سرعة الوصول إليها.

An example of how we're confused is how we used to talk

مثال على مدى حيرتنا هو الطريقة التي اعتدنا أن نتحدث بها

about narrow versus general AI.

عن الذكاء الاصطناعي الضيق مقابل العام.

For a long time, we talked in terms of two buckets.

لفترة طويلة، تحدثنا حول دلوين.

A lot of people thought we should just be dividing between narrow AI,

اعتقد الكثير من الناس أننا يجب أن نقسم فقط بين الذكاء الاصطناعي الضيق،

trained for one specific task,

المدرب على مهمة واحدة محددة،

like recommending the next YouTube video,

مثل التوصية بالفيديو التالي على YouTube،

versus artificial general intelligence, or AGI,

مقابل الذكاء الاصطناعي العام، أو الAGI،

that could do everything a human could do.

الذي يمكنه فعل كل شيء يمكن للإنسان القيام به.

We thought of this distinction, narrow versus general,

فكرنا في هذا التمييز، الضيق مقابل العام،

as a core divide between what we could build in practice

باعتباره فجوة أساسية بين ما يمكننا بناءه عمليًا

and what would actually be intelligent.

وما يمكن أن يكون ذكيًا بالفعل.

But then a year or two ago, along came ChatGPT.

ولكن قبل عام أو عامين، جاء ChatGPT.

If you think about it,

إذا فكرتم في الأمر،

you know, is it narrow AI, trained for one specific task?

هل هو ذكاء اصطناعي ضيق، مدرب على مهمة واحدة محددة؟

Or is it AGI and can do everything a human can do?

أم أنها الذكاء الاصطناعي العام ويمكنها أن تفعل كل ما يمكن للإنسان القيام به؟

Clearly the answer is neither.

من الواضح أن الإجابة ليست كذلك.

It's certainly general purpose.

إنه بالتأكيد غرض عام.

It can code, write poetry,

يمكنه البرمجة وكتابة الشعر

analyze business problems, help you fix your car.

وتحليل مشاكل العمل ومساعدتك في إصلاح سيارتك.

But it's a far cry from being able to do everything

لكن الأمر بعيد كل البعد عن القدرة على القيام بكل شيء

as well as you or I could do it.

كما يمكنك أنت أو أنا القيام بذلك.

So it turns out this idea of generality

لذلك اتضح أن فكرة العمومية هذه

doesn't actually seem to be the right dividing line

لا تبدو في الواقع الخط الفاصل الصحيح

between intelligent and not.

بين الذكاء وغير الذكي.

And this kind of thing

وهذا النوع من الأشياء

is a huge challenge for the whole field of AI right now.

يمثل تحديًا كبيرًا لمجال الذكاء الاصطناعي بأكمله حالياً.

We don't have any agreement on what we're trying to build

ليس لدينا أي اتفاق على ما نحاول بناءه

or on what the road map looks like from here.

أو كيف تبدو خارطة الطريق من هنا.

We don't even clearly understand the AI systems that we have today.

نحن لا نفهم بوضوح حتى أنظمة الذكاء الاصطناعي التي لدينا اليوم.

Why is that?

لماذا؟

Researchers sometimes describe deep neural networks,

يصف الباحثون أحيانًا الشبكات العصبية العميقة،

the main kind of AI being built today,

النوع الرئيسي من الذكاء الاصطناعي الذي يتم بناؤه اليوم،

as a black box.

بأنها صندوق أسود.

But what they mean by that is not that it's inherently mysterious

لكن ما يقصدونه بذلك ليس أنه غامض بطبيعته

and we have no way of looking inside the box.

وليس لدينا طريقة للنظر داخل الصندوق.

The problem is that when we do look inside,

تكمن المشكلة في أننا عندما ننظر إلى الداخل،

what we find are millions,

نجد ملايين أو مليارات

billions or even trillions of numbers

أو حتى تريليونات من الأرقام

that get added and multiplied together in a particular way.

التي يتم إضافتها وضربها معًا بطريقة معينة.

What makes it hard for experts to know what's going on

ما يجعل من الصعب على الخبراء معرفة ما يجري

is basically just, there are too many numbers,

هو في الأساس مجرد أنه هناك عدد كبير جدًا من الأرقام،

and we don't yet have good ways of teasing apart what they're all doing.

وليس لدينا حتى الآن طرق جيدة لفصل ما يفعلونه جميعًا.

There's a little bit more to it than that, but not a lot.

هناك ما هو أكثر من ذلك بقليل، ولكن ليس الكثير.

So how do we govern this technology

إذن كيف نتحكم في هذه التكنولوجيا

that we struggle to understand and predict?

التي نكافح لفهمها والتنبؤ بها؟

I'm going to share two ideas.

سوف أشارك فكرتين.

One for all of us and one for policymakers.

واحدة لنا جميعًا وواحدة لصانعي السياسات.

First, don't be intimidated.

أولاً، لا تخف.

Either by the technology itself

إما عن طريق التكنولوجيا نفسها

or by the people and companies building it.

أو من قبل الأشخاص والشركات التي تقوم ببنائها.

On the technology,

فيما يتعلق بالتكنولوجيا،

AI can be confusing, but it's not magical.

يمكن أن يكون الذكاء الاصطناعي مربكًا، لكنه ليس سحريًا.

There are some parts of AI systems we do already understand well,

هناك بعض أجزاء أنظمة الذكاء الاصطناعي التي نفهمها جيدًا بالفعل،

and even the parts we don't understand won't be opaque forever.

وحتى الأجزاء التي لا نفهمها لن تظل مبهمة إلى الأبد.

An area of research known as “AI interpretability”

لقد حقق مجال البحث المعروف باسم “قابلية تفسير الذكاء الاصطناعي”

has made quite a lot of progress in the last few years

الكثير من التقدم في السنوات القليلة الماضية

in making sense of what all those billions of numbers are doing.

في فهم ما تفعله كل هذه المليارات من الأرقام.

One team of researchers, for example,

وجد فريق من الباحثين، على سبيل المثال،

found a way to identify different parts of a neural network

طريقة لتحديد الأجزاء المختلفة من الشبكة العصبية

that they could dial up or dial down

التي يمكنهم الاتصال بها أو خفضها

to make the AI's answers happier or angrier,

لجعل إجابات الذكاء الاصطناعي أكثر سعادة أو غضبًا،

more honest,

أكثر صدقا،

more Machiavellian, and so on.

وأكثر مكيافيلية، وما إلى ذلك.

If we can push forward this kind of research further,

إذا استطعنا المضي قدمًا في هذا النوع من البحث،

then five or 10 years from now,

فبعد خمس أو عشر سنوات من الآن،

we might have a much clearer understanding of what's going on

قد يكون لدينا فهم أوضح بكثير لما يحدث

inside the so-called black box.

داخل ما يسمى بالصندوق الأسود.

And when it comes to those building the technology,

وعندما يتعلق الأمر بأولئك الذين يبنون التكنولوجيا،

technologists sometimes act as though

يتصرف التقنيون أحيانًا

if you're not elbows deep in the technical details,

كما لو أنك لا تتعمق في التفاصيل الفنية،

then you're not entitled to an opinion on what we should do with it.

فلا يحق لك الحصول على رأي حول ما يجب أن نفعله بها.

Expertise has its place, of course,

للخبرة مكانها بالطبع،

but history shows us how important it is

لكن التاريخ يوضح لنا مدى أهمية

that the people affected by a new technology

أن يلعب الأشخاص المتأثرون بالتكنولوجيا الجديدة دورًا

get to play a role in shaping how we use it.

في تشكيل كيفية استخدامنا لها.

Like the factory workers in the 20th century who fought for factory safety,

مثل عمال المصانع في القرن العشرين الذين ناضلوا من أجل سلامة المصنع،

or the disability advocates

أو المدافعين عن الإعاقة

who made sure the world wide web was accessible.

الذين تأكدوا من إمكانية الوصول إلى شبكة الويب العالمية.

You don't have to be a scientist or engineer to have a voice.

ليس عليك أن تكون عالمًا أو مهندسًا ليكون لك صوت.

(Applause)

(تصفيق)

Second, we need to focus on adaptability, not certainty.

ثانياً، نحن بحاجة إلى التركيز على القدرة على التكيف، وليس اليقين.

A lot of conversations about how to make policy for AI

تتورط الكثير من المحادثات حول كيفية وضع سياسة للذكاء الاصطناعي

get bogged down in fights between, on the one side,

في معارك، من ناحية،

people saying, "We have to regulate AI really hard right now

الأشخاص الذين يقولون: “علينا تنظيم الذكاء الاصطناعي بشدة الآن

because it's so risky."

لأنه محفوف بالمخاطر“.

And on the other side, people saying,

وعلى الجانب الآخر، يقول الناس

“But regulation will kill innovation, and those risks are made up anyway.”

“لكن التنظيم سيقتل الابتكار، وهذه المخاطر مختلقة على أي حال.”

But the way I see it,

لكن من وجهة نظري،

it’s not just a choice between slamming on the brakes

لا يقتصر الأمر على مجرد اختيار بين الضغط على الفرامل

or hitting the gas.

أو الضغط على الغاز.

If you're driving down a road with unexpected twists and turns,

إذا كنت تقود سيارتك على طريق به تقلبات وانعطافات غير متوقعة،

then two things that will help you a lot

فإن شيئين سيساعدانك كثيرًا

are having a clear view out the windshield

وهما الحصول على رؤية واضحة للزجاج الأمامي

and an excellent steering system.

ونظام توجيه ممتاز.

In AI, this means having a clear picture of where the technology is

في الذكاء الاصطناعي، يعني هذا الحصول على صورة واضحة عن مكان التكنولوجيا

and where it's going,

وأين تتجه،

and having plans in place for what to do in different scenarios.

ووضع خطط لما يجب القيام به في سيناريوهات مختلفة.

Concretely, this means things like investing in our ability to measure

وهذا يعني بشكل ملموس أشياء مثل الاستثمار في قدرتنا على قياس

ما يمكن أن تفعله أنظمة الذكاء الاصطناعي.

what AI systems can do.

This sounds nerdy, but it really matters.

هذا يبدو غريبًا، لكنه مهم حقًا.

Right now, if we want to figure out

في الوقت الحالي، إذا أردنا معرفة

whether an AI can do something concerning,

ما إذا كان الذكاء الاصطناعي يمكنه القيام بشيء مثير للقلق،

like hack critical infrastructure

مثل اختراق البنية التحتية الحيوية

or persuade someone to change their political beliefs,

أو إقناع شخص ما بتغيير معتقداته السياسية،

our methods of measuring that are rudimentary.

فإن أساليبنا في القياس بدائية.

We need better.

نحن بحاجة إلى الأفضل.

We should also be requiring AI companies,

يجب علينا أيضًا أن نطلب من شركات الذكاء الاصطناعي،

especially the companies building the most advanced AI systems,

وخاصة الشركات التي تبني أنظمة الذكاء الاصطناعي الأكثر تقدمًا،

to share information about what they're building,

مشاركة المعلومات حول ما تقوم ببنائه،

what their systems can do

وما يمكن أن تفعله أنظمتها

and how they're managing risks.

وكيفية إدارتها للمخاطر.

And they should have to let in external AI auditors to scrutinize their work

ويجب عليهم السماح لمدققي الذكاء الاصطناعي الخارجيين بالتدقيق في عملهم

so that the companies aren't just grading their own homework.

حتى لا تقوم الشركات فقط بتقييم واجباتها المنزلية.

(Applause)

(تصفيق)

A final example of what this can look like

المثال الأخير لما يمكن أن يبدو عليه هذا

is setting up incident reporting mechanisms,

هو إعداد آليات الإبلاغ عن الحوادث،

so that when things do go wrong in the real world,

بحيث عندما تسوء الأمور في العالم الحقيقي،

we have a way to collect data on what happened

تكون لدينا طريقة لجمع البيانات حول ما حدث

and how we can fix it next time.

وكيف يمكننا إصلاحه في المرة القادمة.

Just like the data we collect on plane crashes and cyber attacks.

تمامًا مثل البيانات التي نجمعها عن حوادث الطائرات والهجمات الإلكترونية.

None of these ideas are mine,

لا تنتمي أي من هذه الأفكار لي،

and some of them are already starting to be implemented in places like Brussels,

وقد بدأ بعضها بالفعل في التنفيذ في أماكن مثل بروكسل

London, even Washington.

ولندن وحتى واشنطن.

But the reason I'm highlighting these ideas,

لكن السبب في أنني أسلط الضوء على هذه الأفكار،

measurement, disclosure, incident reporting,

القياس، والكشف، والإبلاغ عن الحوادث،

is that they help us navigate progress in AI

هو أنها تساعدنا على التقدم في مجال الذكاء الاصطناعي

by giving us a clearer view out the windshield.

من خلال إعطائنا رؤية أوضح للزجاج الأمامي.

If AI is progressing fast in dangerous directions,

إذا كان الذكاء الاصطناعي يتقدم بسرعة في اتجاهات خطيرة،

these policies will help us see that.

فستساعدنا هذه السياسات على رؤية ذلك.

And if everything is going smoothly, they'll show us that too,

وإذا كان كل شيء يسير بسلاسة، فسيظهرون لنا ذلك أيضًا،

and we can respond accordingly.

ويمكننا الرد وفقًا لذلك.

What I want to leave you with

ما أريد أن أترككم به

is that it's both true that there's a ton of uncertainty

هو أنه من الصحيح أن هناك الكثير من عدم اليقين

and disagreement in the field of AI.

والخلاف في مجال الذكاء الاصطناعي.

And that companies are already building and deploying AI

وتقوم الشركات بالفعل ببناء ونشر الذكاء الاصطناعي

all over the place anyway in ways that affect all of us.

في كل مكان بطرق تؤثر علينا جميعًا.

إذا تُرِكت شركات الذكاء الاصطناعي لأجهزتها الخاصة،

Left to their own devices,

it looks like AI companies might go in a similar direction

فيبدو أن شركات الذكاء الاصطناعي قد تسير في اتجاه مماثل

to social media companies,

لشركات التواصل الاجتماعي،

spending most of their resources on building web apps

حيث تنفق معظم مواردها على إنشاء تطبيقات الويب

and for users' attention.

وجذب انتباه المستخدمين.

And by default, it looks like the enormous power of more advanced AI systems

وإفتراضياً، يبدو الأمر وكأنه القوة الهائلة لأنظمة الذكاء الاصطناعي الأكثر تقدمًا

might stay concentrated in the hands of a small number of companies,

قد تظل مركزة في أيدي عدد صغير من الشركات،

or even a small number of individuals.

أو حتى عدد صغير من الأفراد.

But AI's potential goes so far beyond that.

لكن إمكانات الذكاء الاصطناعي تتجاوز ذلك بكثير.

AI already lets us leap over language barriers

يتيح لنا الذكاء الاصطناعي بالفعل تجاوز حواجز اللغة

and predict protein structures.

والتنبؤ بهياكل البروتين.

More advanced systems could unlock clean, limitless fusion energy

يمكن للأنظمة الأكثر تقدمًا إطلاق طاقة اندماج نظيفة وغير محدودة

or revolutionize how we grow food

أو إحداث ثورة في كيفية زراعة الغذاء

or 1,000 other things.

أو 1000 شيء آخر.

And we each have a voice in what happens.

ولكل منا صوت فيما يحدث.

We're not just data sources,

نحن لسنا مجرد مصادر بيانات،

we are users,

نحن مستخدمون،

we're workers,

نحن عمال،

we're citizens.

نحن مواطنون.

So as tempting as it might be,

وبقدر ما قد يكون الأمر مغريًا،

we can't wait for clarity or expert consensus

لا يمكننا انتظار الوضوح أو إجماع الخبراء

to figure out what we want to happen with AI.

لمعرفة ما نريد أن يحدث مع الذكاء الاصطناعي.

AI is already happening to us.

الذكاء الاصطناعي يحدث لنا بالفعل.

What we can do is put policies in place

ما يمكننا فعله هو وضع سياسات

to give us as clear a picture as we can get

لإعطائنا صورة واضحة قدر الإمكان

of how the technology is changing,

عن كيفية تغير التكنولوجيا،

and then we can get in the arena and push for futures we actually want.

ومن ثم يمكننا الدخول إلى الساحة والدفع من أجل المستقبل الذي نريده بالفعل.

Thank you.

شكرًا لكم.

(Applause)

(تصفيق)