AI Is Dangerous, but Not for the Reasons You Think | Sasha Luccioni | TED

المترجم: gaith Takrity المدقّق: Hani Eldalees

So I've been an AI researcher for over a decade.

كنت باحثةً في مجال الذكاء الاصطناعي لأكثر من عقد.

And a couple of months ago, I got the weirdest email of my career.

وقبل شهرين، تلقيت أغرب بريد إلكتروني في حياتي المهنية.

A random stranger wrote to me

كتب لي شخص غريب بشكل عشوائي

saying that my work in AI is going to end humanity.

قائلاً إن عملي في الذكاء الاصطناعي سينهي البشرية.

Now I get it, AI, it's so hot right now.

لقد فهمت الآن، الذكاء الاصطناعي، هو موضوع الساعة لآن.

(Laughter)

(ضحك)

It's in the headlines pretty much every day,

إنها تتصدر عناوين الأخبار كل يوم تقريبًا،

sometimes because of really cool things

أحيانًا بسبب أشياء رائعة حقًا

like discovering new molecules for medicine

مثل اكتشاف جزيئات جديدة للطب

or that dope Pope in the white puffer coat.

أو البابا الرائع في المعطف الأبيض المنتفخ.

But other times the headlines have been really dark,

لكن في أحيان أخرى كانت العناوين الرئيسية مظلمة،

like that chatbot telling that guy that he should divorce his wife

مثل روبوت المحادثة الذي يخبر هذا الرجل أنه يجب عليه طلاق زوجته

or that AI meal planner app proposing a crowd pleasing recipe

أو تطبيق مخطط الوجبات بالذكاء الاصطناعي الذي يقترح وصفة ترضي الجماهير تحتوي

featuring chlorine gas.

على غاز الكلور.

وفي الخلفية،

And in the background,

we've heard a lot of talk about doomsday scenarios,

سمعنا الكثير من الحديث عن سيناريوهات يوم القيامة والمخاطر،

existential risk and the singularity,

الوجودية والتفرد،

with letters being written and events being organized

مع كتابة الرسائل وتنظيم الأحداث

to make sure that doesn't happen.

للتأكد من عدم حدوث ذلك.

Now I'm a researcher who studies AI's impacts on society,

أنا الآن باحثة تدرس تأثيرات الذكاء الاصطناعي على المجتمع،

and I don't know what's going to happen in 10 or 20 years,

ولا أعرف ما الذي سيحدث في غضون 10 أو 20 عامًا،

and nobody really does.

ولا أحد يفعل ذلك حقًا.

But what I do know is that there's some pretty nasty things going on right now,

لكن ما أعرفه هو أن هناك بعض الأشياء السيئة جدًا التي تحدث الآن،

because AI doesn't exist in a vacuum.

لأن الذكاء الاصطناعي لا يوجد في فراغ.

It is part of society, and it has impacts on people and the planet.

إنه جزء من المجتمع، وله تأثيرات على الناس والكوكب.

AI models can contribute to climate change.

يمكن أن تساهم نماذج الذكاء الاصطناعي في تغير المناخ.

Their training data uses art and books created by artists

تستخدم بيانات التدريب الخاصة بهم الفن والكتب التي أنشأها الفنانون

and authors without their consent.

والمؤلفون دون موافقتهم.

And its deployment can discriminate against entire communities.

ويمكن أن يؤدي نشرها إلى التمييز ضد مجتمعات بأكملها.

But we need to start tracking its impacts.

لكننا بحاجة إلى البدء في تتبع آثاره.

We need to start being transparent and disclosing them and creating tools

نحن بحاجة إلى البدء في التحلي بالشفافية والكشف عنها وإنشاء أدوات

so that people understand AI better,

حتى يفهم الناس الذكاء الاصطناعي بشكل أفضل،

so that hopefully future generations of AI models

بحيث نأمل أن تكون الأجيال القادمة من نماذج

are going to be more trustworthy, sustainable,

الذكاء الاصطناعي أكثر موثوقية واستدامة،

maybe less likely to kill us, if that's what you're into.

وربما أقل عرضة لقتلنا، إذا كان هذا هو ما أنت مهتم به.

But let's start with sustainability,

ولكن لنبدأ بالاستدامة،

because that cloud that AI models live on is actually made out of metal, plastic,

لأن تلك السحابة التي تعيش عليها نماذج الذكاء الاصطناعي

هي في الواقع مصنوعة من المعدن والبلاستيك

and powered by vast amounts of energy.

وتعمل بكميات هائلة من الطاقة.

And each time you query an AI model, it comes with a cost to the planet.

وفي كل مرة تستفسر فيها عن نموذج الذكاء الاصطناعي، فإن ذلك يأتي بتكلفة على الكوكب.

Last year, I was part of the BigScience initiative,

في العام الماضي، كنت جزءًا من مبادرة BigScience،

which brought together a thousand researchers

التي جمعت ألف باحث

from all over the world to create Bloom,

من جميع أنحاء العالم لإنشاء Bloom،

the first open large language model, like ChatGPT,

أول نموذج لغة مفتوح كبير، مثل ChatGPT،

but with an emphasis on ethics, transparency and consent.

ولكن مع التركيز على الأخلاق والشفافية والموافقة.

And the study I led that looked at Bloom's environmental impacts

ووجدت الدراسة التي قمت بقيادتها والتي نظرت في التأثيرات البيئية

found that just training it used as much energy

لشركة بلوم أن مجرد تدريبها ستهلك قدرًا من الطاقة

as 30 homes in a whole year

يصل إلى 30 منزلًا في عام كامل

and emitted 25 tons of carbon dioxide,

وانبعث منه 25 طنًا من ثاني أكسيد الكربون،

which is like driving your car five times around the planet

وهو ما يشبه قيادة سيارتك خمس مرات حول الكوكب

just so somebody can use this model to tell a knock-knock joke.

فقط حتى يتمكن شخص ما من استخدام هذا النموذج لإلقاء نكتة.

And this might not seem like a lot,

وقد لا يبدو هذا كثيرًا،

but other similar large language models,

لكن نماذج اللغات الكبيرة المماثلة الأخرى،

like GPT-3,

مثل GPT-3،

emit 20 times more carbon.

تنبعث منها أكثر 20 مرة من الكربون.

But the thing is, tech companies aren't measuring this stuff.

لكن الأمر هو أن شركات التكنولوجيا لا تقيس هذه الأشياء.

They're not disclosing it.

إنهم لا يكشفون عنها.

And so this is probably only the tip of the iceberg,

ولذا ربما يكون هذا مجرد غيض من فيض،

even if it is a melting one.

حتى لو كان ذائبًا.

And in recent years we've seen AI models balloon in size

وفي السنوات الأخيرة، رأينا نماذج الذكاء الاصطناعي تتضخم في الحجم

because the current trend in AI is "bigger is better."

لأن الاتجاه الحالي في الذكاء الاصطناعي هو «الأكبر هو الأفضل».

But please don't get me started on why that's the case.

ولكن من فضلك لا تجعلني أبدأ في معرفة سبب ذلك.

In any case, we've seen large language models in particular

على أي حال، رأينا نماذج اللغات الكبيرة على وجه الخصوص

grow 2,000 times in size over the last five years.

تنمو 2000 مرة في الحجم على مدى السنوات الخمس الماضية.

And of course, their environmental costs are rising as well.

وبالطبع، فإن تكاليفها البيئية ترتفع أيضًا.

The most recent work I led, found that switching out a smaller,

وجدت أحدث الأعمال التي قمت بقيادتها أن تبديل نموذج أصغر

more efficient model for a larger language model

وأكثر كفاءة لنموذج لغوي أكبر

emits 14 times more carbon for the same task.

ينبعث 14 مرة أكثر من الكربون لنفس المهمة.

Like telling that knock-knock joke.

مثل قول تلك النكتة القاعية.

And as we're putting in these models into cell phones and search engines

وبينما نضع هذه النماذج في الهواتف المحمولة ومحركات البحث والثلاجات الذكية

and smart fridges and speakers,

ومكبرات الصوت،

the environmental costs are really piling up quickly.

فإن التكاليف البيئية تتراكم بسرعة كبيرة.

So instead of focusing on some future existential risks,

لذا بدلاً من التركيز على بعض المخاطر الوجودية المستقبلية،

let's talk about current tangible impacts

دعونا نتحدث عن التأثيرات الملموسة الحالية

and tools we can create to measure and mitigate these impacts.

والأدوات التي يمكننا إنشاؤها لقياس هذه التأثيرات والتخفيف منها.

I helped create CodeCarbon,

لقد ساعدت في إنشاء CodeCarbon،

a tool that runs in parallel to AI training code

وهي أداة تعمل بالتوازي مع كود تدريب الذكاء الاصطناعي

that estimates the amount of energy it consumes

الذي يقدر كمية الطاقة التي تستهلكها

and the amount of carbon it emits.

وكمية الكربون التي تنبعث منها.

And using a tool like this can help us make informed choices,

واستخدام أداة مثل هذه يمكن أن يساعدنا في اتخاذ خيارات مستنيرة،

like choosing one model over the other because it's more sustainable,

مثل اختيار نموذج واحد على الآخر لأنه أكثر استدامة،

or deploying AI models on renewable energy,

أو نشر نماذج الذكاء الاصطناعي على الطاقة المتجددة،

which can drastically reduce their emissions.

والتي يمكن أن تقلل بشكل كبير من انبعاثاتها.

But let's talk about other things

ولكن دعونا نتحدث عن أشياء أخرى

because there's other impacts of AI apart from sustainability.

لأن هناك تأثيرات أخرى للذكاء الاصطناعي بصرف النظر عن الاستدامة.

For example, it's been really hard for artists and authors

على سبيل المثال، كان من الصعب حقًا على الفنانين والمؤلفين

to prove that their life's work has been used for training AI models

إثبات أن أعمال حياتهم قد استخدمت لتدريب نماذج الذكاء الاصطناعي

without their consent.

دون موافقتهم.

And if you want to sue someone, you tend to need proof, right?

وإذا كنت تريد مقاضاة شخص ما، فأنت تميل إلى الحاجة إلى دليل، أليس كذلك؟

So Spawning.ai, an organization that was founded by artists,

لذا فإن Spawning.ai، وهي منظمة أسسها فنانون،

created this really cool tool called “Have I Been Trained?”

أنشأت هذه الأداة الرائعة حقًا المسماة «هل تم تدريبي؟»

And it lets you search these massive data sets

ويتيح لك البحث في مجموعات البيانات الضخمة هذه

to see what they have on you.

لمعرفة ما لديها عنك.

Now, I admit it, I was curious.

الآن، أعترف بذلك، كنت أشعر بالفضول.

I searched LAION-5B,

لقد بحثت في LAION-5B،

which is this huge data set of images and text,

وهي مجموعة البيانات الضخمة هذه من الصور والنصوص،

to see if any images of me were in there.

لمعرفة ما إذا كانت هناك أي صور لي هناك.

Now those two first images,

الآن هاتان الصورتان الأوليان،

that's me from events I've spoken at.

هذه أنا من الأحداث التي تحدثت فيها.

But the rest of the images, none of those are me.

لكن بقية الصور، ليست لي.

They're probably of other women named Sasha

من المحتمل أنهن لنساء أخريات

who put photographs of themselves up on the internet.

تدعى ساشا وضعن صورًا لأنفسهن على الإنترنت.

And this can probably explain why,

وربما يفسر هذا لماذا،

when I query an image generation model

عندما أستفسر عن نموذج لتوليد الصور

to generate a photograph of a woman named Sasha,

لإنشاء صورة لامرأة تدعى ساشا، أحصل

more often than not I get images of bikini models.

في كثير من الأحيان على صور لنماذج البكيني.

Sometimes they have two arms,

في بعض الأحيان يكون لديهم ذراعان،

sometimes they have three arms,

وأحيانًا لديهم ثلاثة أذرع،

but they rarely have any clothes on.

لكن نادرًا ما يرتدون أي ملابس.

And while it can be interesting for people like you and me

وفي حين أنه قد يكون من الممتع لأشخاص مثلي

to search these data sets,

ومثلك البحث في مجموعات البيانات هذه،

for artists like Karla Ortiz,

بالنسبة لفنانين مثل كارلا أورتيس،

this provides crucial evidence that her life's work, her artwork,

فإن هذا يوفر دليلًا حاسمًا على استخدام أعمال حياتها وأعمالها الفنية

was used for training AI models without her consent,

لتدريب نماذج الذكاء الاصطناعي دون موافقتها،

and she and two artists used this as evidence

وقد استخدمت هي وفنانان هذا كدليل

to file a class action lawsuit against AI companies

لرفع دعوى قضائية جماعية ضد شركات الذكاء الاصطناعي

for copyright infringement.

بسبب انتهاك حقوق الطبع والنشر.

And most recently --

ومؤخراً --

(Applause)

(تصفيق)

And most recently Spawning.ai partnered up with Hugging Face,

ومؤخراً، دخلت Spawning.ai في شراكة

مع Hugging Face، الشركة التي أعمل فيها،

the company where I work at,

to create opt-in and opt-out mechanisms for creating these data sets.

لإنشاء آليات الاشتراك وإلغاء الاشتراك لإنشاء مجموعات البيانات هذه.

لأن الأعمال الفنية التي ابتكرها البشر لا ينبغي أن تكون بوفيه كل ما يمكنك تناوله

Because artwork created by humans shouldn’t be an all-you-can-eat buffet

for training AI language models.

لتدريب نماذج لغة الذكاء الاصطناعي.

(Applause)

(تصفيق)

The very last thing I want to talk about is bias.

آخر شيء أريد الحديث عنه هو التحيز.

You probably hear about this a lot.

ربما تسمع عن هذا كثيرًا.

من الناحية الرسمية، يحدث ذلك عندما تقوم

Formally speaking, it's when AI models encode patterns and beliefs

نماذج الذكاء الاصطناعي بترميز الأنماط والمعتقدات

that can represent stereotypes or racism and sexism.

التي يمكن أن تمثل الصور النمطية أو العنصرية والتمييز الجنسي.

One of my heroes, Dr. Joy Buolamwini, experienced this firsthand

اختبرت إحدى أبطالي، الدكتورة جوي بولامويني، هذا الأمر بشكل مباشر

when she realized that AI systems wouldn't even detect her face

عندما أدركت أن أنظمة الذكاء الاصطناعي لن تكتشف وجهها حتى

unless she was wearing a white-colored mask.

إلا إذا كانت ترتدي قناعًا أبيض اللون.

Digging deeper, she found that common facial recognition systems

وبالتعمق أكثر، وجدت أن أنظمة التعرف على الوجه الشائعة

were vastly worse for women of color compared to white men.

كانت أسوأ بكثير بالنسبة للنساء ذوات البشرة الملونة مقارنة بالرجال البيض.

And when biased models like this are deployed in law enforcement settings,

وعندما يتم نشر نماذج متحيزة مثل هذه في بيئات إنفاذ القانون، يمكن أن يؤدي

this can result in false accusations, even wrongful imprisonment,

ذلك إلى اتهامات كاذبة، وحتى السجن غير المشروع،

which we've seen happen to multiple people in recent months.

وهو ما رأيناه يحدث لعدة أشخاص في الأشهر الأخيرة.

For example, Porcha Woodruff was wrongfully accused of carjacking

على سبيل المثال، اتُهمت بورشا وودروف ظلماً بسرقة سيارة وهي حامل

at eight months pregnant

في شهرها الثامن

because an AI system wrongfully identified her.

لأن نظام الذكاء الاصطناعي تعرّف عليها بشكل خاطئ.

But sadly, these systems are black boxes,

ولكن للأسف، هذه الأنظمة عبارة عن صناديق سوداء،

and even their creators can't say exactly why they work the way they do.

وحتى منشئوها لا يمكنهم تحديد سبب عملها بالطريقة التي يعملون بها بالضبط.

And for example, for image generation systems,

وعلى سبيل المثال، بالنسبة لأنظمة توليد الصور،

if they're used in contexts like generating a forensic sketch

إذا تم استخدامها في سياقات مثل إنشاء رسم تخطيطي للطب الشرعي

based on a description of a perpetrator,

استنادًا إلى وصف الجاني،

they take all those biases and they spit them back out

فإنها تأخذ كل تلك التحيزات وتعيد نشرها

for terms like dangerous criminal, terrorists or gang member,

لمصطلحات مثل مجرم خطير أو إرهابي أو عضو عصابة،

which of course is super dangerous

وهو بالطبع أمر خطير للغاية

when these tools are deployed in society.

عندما يتم نشر هذه الأدوات في المجتمع.

And so in order to understand these tools better,

ومن أجل فهم هذه الأدوات بشكل أفضل،

I created this tool called the Stable Bias Explorer,

قمت بإنشاء هذه الأداة المسماة Stable Bias Explorer،

which lets you explore the bias of image generation models

والتي تتيح لك استكشاف تحيز نماذج

through the lens of professions.

توليد الصور من منظور المهن.

So try to picture a scientist in your mind.

لذا حاول تصوير عالم في ذهنك.

Don't look at me.

لا تنظر إلي.

What do you see?

ماذا ترى؟

A lot of the same thing, right?

الكثير من نفس الشيء، أليس كذلك؟

Men in glasses and lab coats.

رجال يرتدون النظارات ومعاطف المختبر.

And none of them look like me.

ولا أحد منهم يشبهني.

And the thing is,

والأمر

is that we looked at all these different image generation models

هو أننا نظرنا إلى كل هذه النماذج المختلفة لتوليد الصور

and found a lot of the same thing:

ووجدنا الكثير من الشيء نفسه:

significant representation of whiteness and masculinity

تمثيل كبير للبياض والذكورة

across all 150 professions that we looked at,

في جميع المهن الـ150 التي نظرنا إليها،

even if compared to the real world,

حتى لو تمت مقارنتها بالعالم الحقيقي،

the US Labor Bureau of Statistics.

مكتب إحصاءات العمل الأمريكي.

These models show lawyers as men,

تُظهر هذه النماذج المحامين كرجال،

and CEOs as men, almost 100 percent of the time,

والرؤساء التنفيذيين كرجال، ما يقرب من 100 في المائة من الوقت،

even though we all know not all of them are white and male.

على الرغم من أننا نعلم جميعًا أنهم ليسوا جميعًا من البيض والذكور.

And sadly, my tool hasn't been used to write legislation yet.

وللأسف، لم يتم استخدام أداتي لكتابة التشريعات حتى الآن.

But I recently presented it at a UN event about gender bias

لكنني عرضتها مؤخرًا في حدث للأمم المتحدة حول التحيز بين الجنسين

as an example of how we can make tools for people from all walks of life,

كمثال على كيفية صنع أدوات للأشخاص من جميع مناحي الحياة،

even those who don't know how to code,

حتى أولئك الذين لا يعرفون كيفية البرمجة،

to engage with and better understand AI because we use professions,

للتفاعل مع الذكاء الاصطناعي وفهمه بشكل أفضل لأننا نستخدم المهن،

but you can use any terms that are of interest to you.

ولكن يمكنك استخدام أي مصطلحات تهمك.

And as these models are being deployed,

وبينما يتم نشر هذه النماذج،

are being woven into the very fabric of our societies,

يتم نسجها في نسيج مجتمعاتنا،

وهواتفنا المحمولة، ووسائل التواصل الاجتماعي الخاصة بنا،

our cell phones, our social media feeds,

even our justice systems and our economies have AI in them.

وحتى أنظمتنا القضائية واقتصاداتنا تحتوي على الذكاء الاصطناعي.

And it's really important that AI stays accessible

ومن المهم حقًا أن يظل الذكاء الاصطناعي متاحًا

so that we know both how it works and when it doesn't work.

حتى نعرف كيف يعمل ومتى لا يعمل.

And there's no single solution for really complex things like bias

ولا يوجد حل واحد للأشياء المعقدة حقًا مثل التحيز

or copyright or climate change.

أو حقوق النشر أو تغير المناخ.

But by creating tools to measure AI's impact,

ولكن من خلال إنشاء أدوات لقياس تأثير الذكاء الاصطناعي،

we can start getting an idea of how bad they are

يمكننا البدء في الحصول على فكرة عن مدى سوء هذه العوامل

and start addressing them as we go.

والبدء في معالجتها مع تقدمنا.

Start creating guardrails to protect society and the planet.

ابدأ في إنشاء حواجز حماية لحماية المجتمع والكوكب.

And once we have this information,

وبمجرد حصولنا على هذه المعلومات،

companies can use it in order to say,

يمكن للشركات استخدامها لتقول،

OK, we're going to choose this model because it's more sustainable,

حسنًا، سنختار هذا النموذج لأنه أكثر استدامة،

this model because it respects copyright.

هذا النموذج لأنه يحترم حقوق الطبع والنشر.

Legislators who really need information to write laws,

يمكن للمشرعين الذين يحتاجون حقًا إلى معلومات لكتابة القوانين،

can use these tools to develop new regulation mechanisms

استخدام هذه الأدوات لتطوير آليات تنظيمية جديدة

or governance for AI as it gets deployed into society.

أو حوكمة للذكاء الاصطناعي عند نشره في المجتمع.

And users like you and me can use this information

ويمكن للمستخدمين مثلك ومثلي استخدام هذه المعلومات

to choose AI models that we can trust,

لاختيار نماذج الذكاء الاصطناعي التي يمكننا الوثوق بها،

not to misrepresent us and not to misuse our data.

وليس لتحريف صورتنا وعدم إساءة استخدام بياناتنا.

But what did I reply to that email

ولكن ماذا أجبت على تلك الرسالة الإلكترونية

that said that my work is going to destroy humanity?

التي قالت إن عملي سيدمر البشرية؟

I said that focusing on AI's future existential risks

قلت إن التركيز على المخاطر الوجودية المستقبلية للذكاء الاصطناعي

is a distraction from its current,

هو صرف الانتباه عن آثاره الحالية والملموسة للغاية،

very tangible impacts

and the work we should be doing right now, or even yesterday,

والعمل الذي يجب أن نقوم به الآن، أو حتى بالأمس،

for reducing these impacts.

للحد من هذه التأثيرات.

Because yes, AI is moving quickly, but it's not a done deal.

لأن نعم، الذكاء الاصطناعي يتحرك بسرعة، لكنه ليس صفقة منتهية.

We're building the road as we walk it,

نحن نبني الطريق ونحن نسير فيه،

and we can collectively decide what direction we want to go in together.

ويمكننا بشكل جماعي أن نقرر الاتجاه الذي نريد أن نسير فيه معًا.

Thank you.

شكرًا لكم.

(Applause)

(تصفيق)