Is AI Progress Stuck? | Jennifer Golbeck | TED

المترجم: Tarig Abdalla Eltom المدقّق: Leen Sattout

We've built artificial intelligence already

لقد بنينا الذكاء الاصطناعي بالفعل،

that, on specific tasks, performs better than humans.

والذي يؤدي بشكلٍ أفضل في مهام محددة.

There's AI that can play chess and beat human grandmasters.

والذي يمكنه التغلب على أساتذة لعبة الشطرنج.

But since the introduction of generative AI

ولكن منذ تقديم الذكاء الاصطناعي التوليدي،

to the general public a couple years ago,

لعامة الناس قبل بضع سنوات،

there's been more talk about artificial general intelligence, or AGI,

كان هناك المزيد من الحديث عن الذكاء العام الاصطناعي، أو AGI،

and that describes the idea

ومدار الحديث كالآتي:

that there's AI that can perform at or above human levels

أنه هناك ذكاءً اصطناعيًا يماثل الأداء المستوى البشري أو أعلى منه حتى،

on a wide variety of tasks, just like we humans are able to do.

في مهامٍ كثيرة، تمامًا كقدرتنا نحن البشر.

And people who think about AGI are worried about what it means

يشعر الناس بالقلق حول الذكاء الإصطناعي العام وما يعنيه،

if we reach that level of performance in the technology.

إذا وصلنا فعلًا إلى هذا المستوى من الأداء تقنيًا.

Right now, there's people from the tech industry

بعض الناس في الشركات التقنية،

coming out and saying

خرجوا علنًا ليقولوا:

"The AI that we're building is so powerful and dangerous

“إن الذكاء الاصطناعي الذي نقوم ببنائه قوي للغاية وخطير،

that it poses a threat to civilization.”

لدرجة أنه يشكل تهديداً على الإنسانية“.

And they’re going to government and saying,

وتوجهوا إلى الحكومة،

وأشاروا إلى ضرورة تدخل الحكومة لضبط صناعة هذه التقنية.

"Maybe you need to regulate us."

Now normally when an industry makes a powerful new tool,

عادةً، عندما تخترع الشركات التقنية أداة جديدة قوية،

they don't say it poses an existential threat to humanity

فإنهم لا يقولون أبدًا إنها تشكل تهديدًا وجوديًا للإنسانية

and that it needs to be limited, so why are we hearing that language?

وأنه يجب تقييدها وضبطها، فلماذا يصرحون بذلك الآن؟

And I think there's two main reasons.

برأيي أنه هناك سببان رئيسيان لذلك:

One is if your technology is so powerful

الأول هو إذا كانت التقنية التي صنعتَها قوية جدًا،

that it can destroy civilization, between now and then,

فبإمكانها أن تدمر الحضارة، ما بين الآن وحتى ذلك الوقت،

there's an awful lot of money to be made with that.

ستجني الشركات أرباحاً هائلة.

And what better way to convince your investors

وهل هناك أي طريقة أفضل لإقناع المستثمرين

to put some money with you

ليستثمروا أموالهم في شركتك،

than to warn that your tool is that dangerous?

من خلال التحذير من خطر الأداة التي صنعتها لهذه الدرجة؟

The other is that the idea of AI overtaking humanity

السبب الآخر هو أن فكرة تفوق الذكاء الاصطناعي على البشرية

is truly a cinematic concept.

هي حقا مفهوم سينمائي.

We’ve all seen those movies.

لقد رأينا جميعًا تلك الأفلام.

And it’s kind of entertaining to think about what that would mean now

ومن الممتع التفكير في مطابقة الخيال السينمائي مع الواقع الآن،

with tools that we're actually able to put our hands on.

بالأدوات التي هي حاليًا تحت أيدينا.

In fact, it’s so entertaining that it’s a very effective distraction

في الواقع، إنها لعبة مسلية جدًا لدرجة أنها تلهينا تمامًا

from the real problems already happening in the world because of AI.

عن المشاكل الحقيقية التي تحدث بالفعل في العالم بسبب الذكاء الاصطناعي.

The more we think about these improbable futures,

كلما فكرنا أكثر في هذه المشاكل غير المنظورة في المستقبل،

the less time we spend thinking about how do we correct deepfakes

كلما قل الوقت الذي نقضيه في معالجة أشياء مثل التزييف العميق،

or the fact that there's AI right now being used to decide

أو مشكلة أن الذكاء الاصطناعي يُستخدم الآن لاتخاذ القرار،

whether or not people are let out of prison,

بشأن هل يُطلق سراح الناس من السجن أم لا،

and we know it’s racially biased.

ونحن نعلم مسبقاً أن الذكاء الاصطناعي متحيز عنصريًا.

But are we anywhere close to actually achieving AGI?

ولكن هل اقتربنا فعلًا من إنجاز الذكاء الاصطناعي العام؟

Some people think so.

بعض الناس يعتقدون ذلك.

Elon Musk said that we'll achieve it within a year.

إيلون ماسك قال إننا سنحقق ذلك في غضون عام.

I think he posted this a few weeks ago.

أعتقد أنه نشر هذا قبل بضعة أسابيع.

ولكن في تاريخ منشور أيلون ماسك ذاته،

But like at the same time

Google put out their eye search tool that's supposed to give you the answer

طرحت Google أداة البحث “عدسة غوغل” والتي يفترض أن تعطيك الإجابة

so you don’t have to click on a link,

دون حاجة للنقر فوق الرابط،

and it's not going super well.

واضح أن الأمور هنا ليست صحيحة!

["How many rocks should I eat?"]

["كم عدد الصخور التي يجب أن آكلها؟"]

["... at least a single serving of pebbles, geodes or gravel ..."]

[“... على الأقل حصة واحدة من الحصى أو الحجارة...“]

Please don't eat rocks.

من فضلك لا تأكل الصخور!.

(Laughter)

(ضحك)

Now of course these tools are going to get better.

بالطبع سوف تتحسن هذه الأدوات.

But if we're going to achieve AGI

ولكن إذا أردنا إنجاز الذكاء الاصطناعي العام

or if they're even going to fundamentally change the way we work,

أو إذا قُدر لهذا الذكاء الاصطناعي العام أن يغير جذريًا طريقة عملنا،

we need to be in a place where they are continuing

فنحن بحاجة إلى أن يعمل صانعوا هذه التقنية،

on a sharp upward trajectory in terms of their abilities.

على تطوير قدرات هذه الأدوات بقوة وصقلها بشكل متصاعد،

And that may be one path.

هذا هو الاحتمال الأول،

But there's also the possibility that what we're seeing

الاحتمال الثاني،

is that these tools have basically achieved

هو أن هذه الأدوات قد حققت أساسًا

what they're capable of doing,

كل ما بمقدورها فعله،

and the future is incremental improvements in a plateau.

ولا مجال مستقبلًا سوى لتحسينات تدريجية لهذه التقنيات.

So to understand the AI future,

لذا، لفهم مستقبل الذكاء الاصطناعي،

we need to look at all the hype around it and get under there

نحن بحاجة إلى تفحّص كل هذه الضجة حولها،

لمعرفة حقيقتها، ولنرى ما هو ممكن من الناحية الفنية.

and see what's technically possible.

And we also need to think about where are the areas that we need to worry

وعلينا أيضًا التبصّر فيما يقلقنا بشأن هذه التقنيات

and where are the areas that we don't.

وجوانبها الأخرى التي لا قلق بشأنها.

So if we want to realize the hype around AI,

لذا، إذا أردنا أن نعرف حقيقة الضجة حول الذكاء الاصطناعي،

the one main challenge that we have to solve is reliability.

فإن التحدي الرئيسي الوحيد الذي يتعين علينا حله هو الموثوقية.

These algorithms are wrong all the time, like we saw with Google.

هذه الخوارزميات تخطئ باستمرار، كما رأينا مع غوغل قبل قليل.

And Google actually came out and said,

وفي الواقع خرج المسؤولون في غوغل،

after these bad search results were popularized,

بعد انتشار نتائج البحث السيئة هذه،

that they don't know how to fix this problem.

وقالوا أنهم لا يعرفون كيفية حل هذه المشكلة.

I use ChatGPT every day.

أنا أستخدم ChatGPT كل يوم،

I write a newsletter that summarizes discussions on far-right message boards,

أكتب رسالة إخبارية تلخص المناقشات على المنصات اليمينية المتطرفة،

and so I download that data,

أقوم بتنزيل المناقشات، وأرفعها لـChatGPT،

ChatGPT helps me write a summary.

ليساعدني في كتابة ملخص لها.

And it makes me much more efficient than if I had to do it by hand.

وهذا يجعلني أكثر كفاءة مما لو اضطررت إلى القيام بكل ذلك يدويًا.

ولكن لا بد لي - على الدوام - من إجراء تصحيحات على ملخصاته،

But I have to correct it every day

because it misunderstands something,

لأنه يسيء فهم بعض الأشياء،

it takes out the context.

فيخرج عن السياق.

And so because of that,

ولهذا السبب،

I can't just rely on it to do the job for me.

لا يمكنني الإعتماد عليه ليقوم بمهمتي،

And this reliability is really important.

وهذه الإعتماد مهمة حقًا.

Now a subpart of reliability in this space is AI hallucination,

من مشاكل الموثوقية في هذا المجال، ما يُسمى بهلوسة الذكاء الاصطناعي،

a great technical term for the fact that AI just makes stuff up

مصطلح تقني رائع لحقيقة أن الذكاء الاصطناعي يختلق الأشياء فحسب.

a lot of the time.

دائمًا يختلق الأشياء.

I did this in my newsletter.

جربت هذا في رسالتي الإخبارية

I said, ChatGPT are there any people threatening violence?

سألت ChatGPT هل هناك أي شخص يهدد بالعنف؟

If so, give me the quotes.

إذا كان الأمر كذلك، فأخبرني من قال ذلك؟.

And it produced these three really clear threats of violence

قدم لي ثلاثة تهديدات عنيفة واضحة،

that didn't sound anything like people talk

ولأن إجابته لا تشبه ما يقوله الناس،

on these message boards.

على منصاتهم هذه

And I went back to the data, and nobody ever said it.

راجعت المنصات، ولم أجد أحدًا قالها على الإطلاق.

It just made it up out of thin air.

لقد صنع ChatGPT ذلك من لا شيء!

And you may have seen this if you've used an AI image generator.

تعرفون الصور المنشأة بالذكاء الاصطناعي التوليدي

I asked it to give me a close up of people holding hands.

طلبت منه أن يمنحني صورة مقربة لأشخاص تتماسك أيديهم.

That's a hallucination and a disturbing one at that.

هذه هلوسة، وهلوسة مزعجة أيضًا

(Laughter)

(ضحك)

We have to solve this hallucination problem

علينا أن نحل مشكلة الهلوسة هذه،

if this AI is going to live up to the hype.

إذا أردنا أن يرتقي هذا الذكاء الاصطناعي إلى مستوى هذه الضجة حوله.

And I don't think it's a solvable problem.

ولا أعتقد أنها مشكلة قابلة للحل.

With the way this technology works, there are people who say,

مع الطريقة التي تعمل بها هذه التكنولوجيا،

we're going to have it taken care of in a few months,

هناك من يقول، ستحل هذه المشكلة خلال بضعة أشهر،

but there’s no technical reason to think that’s the case.

ولكن لا يوجد سبب فني يؤيد هذا القول.

Because generative AI always makes stuff up.

لأن الذكاء الاصطناعي التوليدي يختلق الأشياء دائمًا.

When you ask it a question,

عندما تطرح عليه سؤالاً،

it's creating that answer or creating that image from scratch

فإنه يُنشئ لك تلك الإجابة، أو تلك الصورة من الصفر

when you ask.

كإجابة لسؤالك،

It's not like a search engine that goes and finds the right answer on a page.

إنه ليس مثل محرك البحث الذي يذهب ويجد الإجابة الصحيحة على صفحة ما.

And so because its job is to make things up every time,

ولأن وظيفته هي اختلاق الأشياء في كل مرة،

I don't know that we're going to be able to get it to make up correct stuff

فلا أعلم متى سنكون قادرين على الحصول على الإجابات الصحيحة

ونميّزها من الأشياء الأخرى التي يختلقها.

and then not make up other stuff.

That's not what it's trained to do,

وهذا ليس ما تم تدريبه على القيام به،

and we're very far from achieving that.

ونحن بعيدون جدًا عن تحقيق ذلك.

And in fact, there are spaces where they're trying really hard.

وفي الواقع، هناك من يبذلون قصارى جهدهم.

One space that there's a lot of enthusiasm for AI

هناك الكثير من الحماس في المجال القانوني،

is in the legal area

فيما يخص استخدام الذكاء الاصطناعي

where they hope it will help write legal briefs or do research.

حيث يأملون أن يساعدنا في كتابة الملخصات القانونية والأبحاث.

Some people have found out the hard way

وقد تعلم بعض القانونيين من أخطائهم،

that they should not write legal briefs right now with ChatGPT

تعلموا ألا يستعينوا بـ ChatGPT لكتابة المذكرات القانونية،

and send them to federal court,

لإرسالها إلى المحكمة الفيدرالية،

because it just makes up cases that sound right.

لأنه فقط يختلق قضايا ويجعلها تبدو صحيحة.

And that's a really fast way to get a judge mad at you

وهذه طريقة سريعة حقًا لإثارة غضب القاضي عليك،

and to get your case thrown out.

وإنهاء قضيتك.

Now there are legal research companies right now

بعض شركات الأبحاث القانونية،

that advertise hallucination-free

أعلنت عن أدوات ذكاء اصطناعي توليدي

generative AI.

خالية من الهلوسة.

And I was really dubious about this.

وأنا كنت متشككة حقًا بشأنها.

And researchers at Stanford actually went in and checked it,

وقد قام الباحثون في جامعة ستانفورد بالفعل بفحصها،

and they found the best-performing of these hallucination-free tools

وقد وجدوا أن أفضل الأدوات الخالية من الهلوسة أداءً

still hallucinates 17 percent of the time.

لا تزال تهذي بنسبة 17 بالمائة من الوقت.

So like on one hand,

لذلك فإذا سلمنا بأنه إنجاز علمي عظيم؛ إذ بنينا أداة

it's a great scientific achievement that we have built a tool

that we can pose basically any query to,

يمكننا أن نطرح عليها أي استفسار،

and 60 or 70 or maybe even 80 percent of the time

وتعطينا إجابة معقولة بنسبة 60 أو 70 بالمائة،

it gives us a reasonable answer.

أو ربما حتى 80 بالمائة،

But if we're going to rely on using those tools

ولكن إذا كنا سنعتمد على استخدام تلك الأدوات،

and they're wrong 20 or 30 percent of the time,

وهي تخطئ بنسبة 20 أو 30 بالمائة،

there's no model where that's really useful.

فلا يوجد نموذج مفيد حقًا.

And that kind of leads us into

وهذا الأمر يقودنا إلى التساؤل،

how do we make these tools that useful?

كيف نجعل هذه الأدوات مفيدة؟

Because even if you don't believe me

لأنه حتى لو كنت لا تصدقني،

and think we're going to solve this hallucination problem,

وتعتقد أننا سنحل مشكلة الهلوسة هذه،

we're going to solve the reliability problem,

كما سنقوم بحل مشكلة الموثوقية،

the tools still need to get better than they are now.

فإن هذه الأدوات لا تزال بحاجة إلى تحسين أدائها الحالي

And there's two things they need to do that.

وهناك شيئان تحتاجهما تلك الأدوات لتتحسن،

One is lots more data

الأول هو الكثير والكثير من البيانات،

and two is the technology itself has to improve.

والثاني هو أن التقنية نفسها يجب أن تتحسن.

So where are we going to get that data?

إذن من أين سنحصل على تلك البيانات؟

Because they've kind of taken all the reliable stuff online already.

لأنهم أخذوا فعلًا جميع الأشياء الموثوقة على الإنترنت.

And if we were to find twice as much data as they've already had,

وإذا تمكنوا من العثور على ضعف ما لديهم من البيانات،

that doesn't mean they're going to be twice as smart.

فإن هذا لا يعني أن ذكاء هذه الأدوات سيتضاعف

I don't know if there's enough data out there,

لا أعرف إذا كان هناك ما يكفي من البيانات،

and it's compounded by the fact

هذا غير أن حقيقة أن ما نجح فيه الذكاء الاصطناعي التوليدي،

that one way the generative AI has been very successful

بشكل كبير للغاية،

is at producing low-quality content online.

هو إنتاج محتوى منخفض الجودة عبر الإنترنت.

مثل ما تنتجه الروبوتات على وسائل التواصل الاجتماعي، المعلومات المضللة،

That's bots on social media, misinformation,

and these SEO pages that don't really say anything

وصفحات تحسين نتائج البحث (SEO) التي لا تفيد بشيء،

but have a lot of ads and come up high in the search results.

ولكنها مليئة بالكثير من الإعلانات التي تظهر في أعلى نتائج البحث.

And if the AI starts training on pages that it generated,

وإذا بدأ الذكاء الاصطناعي في التدريب على الصفحات ذاتها التي أنشأها،

we know from decades of AI research that they just get progressively worse.

فإن أبحاثنا عن الذكاء الاصطناعي تخبرنا أن الأمور تزداد سوءًا بالتدريج.

It's like the digital version of mad cow disease.

إنه مثل النسخة الرقمية من مرض جنون البقر.

(Laughter)

(ضحك)

Let's say we solve the data problem.

لنفترض أننا حللنا مشكلة البيانات.

You still have to get the technology better.

لا يزال يتعين عليك تحسين التكنولوجيا.

And we've seen 50 billion dollars in the last couple years

وقد رأينا أن 50 مليار دولار تم استثمارها في مجال الذكاء الاصطناعي التوليدي،

invested in improving generative AI.

في العامين الماضيين

And that's resulted in three billion dollars in revenue.

قد جلبت إيرادات بقيمة 3 مليارات دولار.

So that's not sustainable.

لذلك هذا استثمار غير مستدام.

But of course it's early, right?

لكن طبعًا من المبكر الحكم عليه صحيح؟

Companies may find ways to start using this technology.

قد تجد الشركات طرقًا للبدء في استخدام هذه التكنولوجيا.

But is it going to be valuable enough

ولكن هل ستكون ذات قيمة كافية

to justify the tens and maybe hundreds of billions of dollars

لتبرير عشرات وربما مئات المليارات من الدولارات

of hardware that needs to be bought

من الأجهزة التي يجب شراؤها

to make these models get better?

لجعل هذه النماذج تتحسن؟

I don't think so.

لا أعتقد ذلك.

And we can kind of start looking at practical examples to figure that out.

ويمكننا أن نبدأ بالنظر إلى أمثلة عملية لمعرفة ذلك.

And it leads us to think about where are the spaces we need to worry and not.

ويقودنا ذلك إلى التفكير في الجوانب التي تثير القلق.

Because one place that everybody's worried with this

لأن الجانب الذي أثار القلق لدى الجميع،

is that AI is going to take all of our jobs.

هو إستيلاء الذكاء الاصطناعي على وظائفنا.

Lots of people are telling us that’s going to happen,

الكثير من الناس يقولون أن هذا سيحدث،

and people are worried about it.

والناس قلقون بشأن ذلك.

And I think there's a fundamental misunderstanding at the heart of that.

وأعتقد أن هناك سوء فهم أساسي في جوهر هذه الفكرة.

So imagine this scenario.

تخيل هذا السيناريو:

We have a company,

لدينا شركة،

and they can afford to employ two software engineers.

يمكنها سداد مرتبات اثنين من مهندسي البرمجيات.

And if we were to give those engineers some generative AI to help write code,

ودعمنا هؤلاء المهندسَين بالذكاء الاصطناعي التوليدي لمساعدتهما في البرمجة،

which is something it's pretty good at,

وهو أمر يجيده الذكاء الاصطناعي وبجدارة،

let's say they're twice as efficient.

لنفترض أن ذلك ضاعف الكفاءة مرتين،

That's a big overestimate, but it makes the math easy.

وهذه مبالغة كبيرة في التقدير، لكنها تسهل علينا الحساب،

So in that case, the company has two choices.

ففي هذه الحالة، أمام الشركة خياران:

They could fire one of those software engineers

إما طرد واحد من المهندسين الإثنين،

because the other one can do the work of two people now,

لأن الآخر يمكنه القيام بعمل شخصين الآن،

or they already could afford two of them,

أو يمكنهم بالفعل تحمل تكلفة الإثنين،

and now they're twice as efficient,

لأنهم أصبحوا أكثر كفاءة بمرتين،

so they're bringing in more money.

لذلك فهما سيجلبان المزيد من الأرباح،

So why not keep both of them and take that extra profit?

فلماذا لا تحتفظ بكليهما وتأخذ هذا الربح الإضافي؟

The only way this math fails is if the AI is so expensive

إن كان ما يُفشل هذه الحَسبة، فهو أن يكون الذكاء الاصطناعي باهظ الثمن جدًا

that it's not worth it.

وأنه لا يستحق كل هذا العناء.

But that would be like the AI is 100,000 dollars a year

ولكن ماذا إن كان الذكاء الاصطناعي يكلف مائة ألف دولار سنويًا

to do one person's worth of work.

للقيام بعمل شخص واحد؟

So that sounds really expensive.

يبدو هذا مكلفًا حقًا.

And practically,

من الناحية العملية،

there are already open-source versions of these tools

هناك بالفعل إصدارات مفتوحة المصدر من هذه الأدوات،

that are low-cost, that companies can install and run themselves.

وهي منخفضة التكلفة، ويمكن للشركات تركيبها وتشغيلها بنفسها،

Now they don’t perform as well as the flagship models,

ربما لا يكون أداؤها مماثلًا لأداء النماذج المشهورة،

but if they're half as good and really cheap,

ولكن إذا كانت بنصف الجودة ورخيصة حقًا،

wouldn't you take those over the one that costs 100,000 dollars a year

ألن تقبل بها عوضًا عن تلك التي تكلف مائة ألف دولار سنويًا،

to do one person's work?

للقيام بعمل شخص واحد؟

Of course you would.

بالطبع سوف تقبل.

And so even if we solve reliability, we solve the data problem,

وهكذا، حتى لو حللنا مشكلة الموثوقية، وحللنا مشكلة البيانات،

we make the models better,

وتمكنّا من جعل النماذج أفضل،

the fact that there are cheap versions of this available

فإن كون أن هناك إصدارات رخيصة متاحة من هذه الأدوات،

suggests that companies aren't going to be spending

يشير إلى أن الشركات لن تنفق مئات الملايين من الدولارات،

hundreds of millions of dollars to replace their workforce with AI.

لاستبدال طاقمهم العامل بالذكاء الاصطناعي

There are areas that we need to worry, though.

ومع ذلك، هناك مجالات تستحق أن نقلق عليها.

Because if we look at AI now,

لأنه إذا نظرنا إلى الذكاء الاصطناعي الآن،

there are lots of problems that we haven't been able to solve.

هناك الكثير من المشاكل التي لم نتمكن بعد من حلها.

I've been building artificial intelligence for over 20 years,

لقد ساهمتُ ببناء الذكاء الاصطناعي لأكثر من 20 عامًا،

and one thing we know

وهناك شيء أنا متأكدة منه:

is that if we train AI on human data,

وهو أنه إذا قمنا بتدريب الذكاء الاصطناعي على البيانات البشرية،

the AI adopts human biases,

فإنه سوف يتبنى تحيزاتنا البشرية،

and we have not been able to fix that.

ولم نتمكن بعد من معالجة ذلك الخلل.

We've seen those biases start showing up in generative AI,

لقد رأينا بداية ظهور تلك التحيزات في الذكاء الاصطناعي التوليدي،

and the gut reaction is always, well,

ودائمًا تكون رد فعلنا التلقائية: حسناً،

let's just put in some guardrails to stop the AI from doing the biased thing.

لنضع قيودًا لمنع الذكاء الاصطناعي من التحيّز.

لكن أولًا القيود لا تعالج التحيز أبدًا، لأن الذكاء الاصطناعي يستطيع تجاوزها.

But one, that never fixes the bias because the AI finds a way around it.

And two, the guardrails themselves can cause problems.

وثانيًا، يمكن أن تسبب قيود الحماية نفسها مشكلات.

So Google has an AI image generator,

لذا لدى جوجل مولد صور يعمل بالذكاء الاصطناعي،

and they tried to put guardrails in place to stop the bias in the results.

وحاولوا وضع حواجز حماية في مكانها الصحيح لوقف التحيز في النتائج.

And it turned out it made it wrong.

واتضح أنه أخطأ.

This is a request for a picture

هذا طلب للصورة

of the signing of the Declaration of Independence.

بمناسبة التوقيع على إعلان الاستقلال.

And it's a great picture, but it is not factually correct.

وهي صورة رائعة، ولكنها ليست صحيحة من الناحية الواقعية.

And so in trying to stop the bias,

وهكذا في محاولة لوقف التحيز،

we end up creating more reliability problems.

ينتهي بنا الأمر إلى خلق المزيد من مشاكل الموثوقية.

We haven't been able to solve this problem of bias.

لم نتمكن من حل مشكلة التحيز هذه.

And if we're thinking about deferring decision making,

وإذا كنا نفكر فيما يخص تأجيل صنع القرار،

replacing human decision makers and relying on this technology

بإحلال هذه التكنولوجيا مكان صناع القرار البشري،

and we can't solve this problem,

ولا تزال تواجهنا مشكلة التحيّز هذه،

that's a thing that we should worry about

فهذا شيء يجب أن نقلق بشأنه،

and demand solutions to

وأن نطالب بإيجاد بحلول له،

before it's just widely adopted and employed because it's sexy.

قبل أن يتم اعتماده واستخدامه على نطاق واسع .

And I think there's one final thing that's missing here,

وأعتقد أن هناك شيء أخير مفقود هنا،

which is our human intelligence

وهو أن ذكاءنا البشري

is not defined by our productivity at work.

لا يتم تعريفه فقط من خلال إنتاجيتنا في العمل.

At its core, it's defined by our ability to connect with other people.

بل يُعرّف ذكاؤنا البشري من خلال قدرتنا على التواصل مع الآخرين،

Our ability to have emotional responses,

وقدرتنا على الحصول على استجابات عاطفية،

to take our past and integrate it with new information

أن نأخذ ماضينا وندمجه مع المعلومات الجديدة

and creatively come up with new things.

والتوصل بشكل خلاق إلى أشياء جديدة.

And that’s something that artificial intelligence is not now

وهذا شيء لا يستطيعه الذكاء الاصطناعي الآن

nor will it ever be capable of doing.

ولن يستطيع القيام به أبدًا.

It may be able to imitate it

ربما يكون قادرا على تقليده،

and give us a cheap facsimile of genuine connection

وإعطائنا نسخة مقلدة رخيصة من التواصل البشري الحقيقي،

and empathy and creativity.

والتعاطف والإبداع.

But it can't do those core things to our humanity.

لكنه لا يستطيع القيام بهذه الأشياء التي هي من صميم إنسانيتنا.

And that's why I'm not really worried about AGI taking over civilization.

ولهذا السبب فأنا لست قلقة حقًا بشأن سيطرة الذكاء الاصطناعي العام على الحضارة.

But if you come away from this disbelieving everything I have told you,

ولكن إن خرجتم من هنا غير مصدقين لكل ما قلته لكم،

and right now you're worried

ولا زلتم قلقين من فكرة

about humanity being destroyed by AI overlords,

أن يدمر أسياد الذكاء الاصطناعي البشرية،

the one thing to remember is,

فتذكروا شيئًا واحدًا:

despite what the movies have told you,

ورغم ما قالته لك الأفلام،

if it gets really bad,

إذا ساءت الأمور بالفعل،

we still can always just turn it off.

فلا يزال بإمكاننا إيقاف تشغيله دائماً!

(Laughter)

(ضحك)

Thank you.

شكراً لكم.

(Applause)

(تصفيق)