Why AI Needs a “Nutrition Label” | Kasia Chmielinski | TED

المترجم: Walaa Mohammed

Now, I haven't met most of you or really any of you,

الآن، لم أقابل معظمكم أو أيًا منكم حقًا،

but I feel a really good vibe in the room.

لكنني أشعر بأجواء جيدة حقًا في الغرفة.

(Laughter)

(ضحك)

And so I think I'd like to treat you all to a meal.

ولذا أعتقد أنني أود أن أدعوكم جميعًا لتناول وجبة.

What do you think?

ماذا تعتقد؟

Yes? Great, so many new friends.

نعم؟ رائع، الكثير من الأصدقاء الجدد.

So we're going to go to this cafe,

لذلك سنذهب إلى هذا المقهى،

they serve sandwiches.

وهم يقدمون السندويشات.

And the sandwiches are really delicious.

والسندويشات لذيذة حقًا.

But I have to tell you that sometimes they make people really, really sick.

لكن يجب أن أخبركم أنهم في بعض الأحيان يجعلون الناس مرضى حقًا.

(Laughter)

(ضحك)

And we don't know why.

ونحن لا نعرف لماذا.

Because the cafe won't tell us how they make the sandwich,

لأن المقهى لن يخبرنا كيف يصنعون الساندويتش،

they won't tell us about the ingredients.

فلن يخبرونا عن المكونات.

And then the authorities have no way to fix the problem.

ومن ثم ليس لدى السلطات أي وسيلة لإصلاح المشكلة.

But the offer still stands.

لكن العرض لا يزال قائمًا.

So who wants to get a sandwich?

إذن من يريد الحصول على شطيرة؟

(Laughter)

(ضحك)

Some brave souls, we can talk after.

بعض الأرواح الشجاعة، يمكننا التحدث بعد ذلك.

But for the rest of you, I understand.

ولكن بالنسبة لبقيتكم، أنا أفهم.

You don't have enough information

ليس لديك معلومات كافية

to make good choices about your safety

لاتخاذ خيارات جيدة بشأن سلامتك

or even fix the issue.

أو حتى إصلاح المشكلة.

Now, before I further the anxiety here, I'm not actually trying to make you sick,

الآن، قبل أن أزيد من القلق هنا، أنا لا أحاول في الواقع أن أجعلك مريضًا،

but this is an analogy to how we're currently making algorithmic systems,

لكن هذا يشبه الطريقة التي نصنع بها حاليًا أنظمة حسابية،

also known as artificial intelligence or AI.

تُعرف أيضًا باسم الذكاء الاصطناعي أو الذكاء الاصطناعي.

Now, for those who haven't thought about the relationship

الآن، بالنسبة لأولئك الذين لم يفكروا في العلاقة

between AI and sandwiches, don't worry about it,

بين الذكاء الاصطناعي والسندويشات، لا تقلق بشأن ذلك،

I'm here for you, I'm going to explain.

أنا هنا من أجلك، سأشرح.

You see, AI systems, they provide benefit to society.

كما ترون، أنظمة الذكاء الاصطناعي، توفر فائدة للمجتمع.

They feed us,

إنهم يطعموننا،

but they're also inconsistently making us sick.

لكنهم أيضًا يجعلوننا مرضى بشكل غير متسق .

And we don't have access to the ingredients that go into the AI.

وليس لدينا إمكانية الوصول إلى المكونات التي تدخل في الذكاء الاصطناعي.

And so we can't actually address the issues.

وبالتالي لا يمكننا بالفعل معالجة المشكلات.

لا يمكننا أيضًا التوقف عن تناول الذكاء الاصطناعي

We also can't stop eating AI

like we can just stop eating a shady sandwich

كما لو أنه يمكننا التوقف عن تناول شطيرة مظللة

because it's everywhere,

لأنها موجودة في كل مكان،

and we often don't even know that we're encountering a system

وغالبًا ما لا نعرف حتى أننا نواجه نظامًا

that's algorithmically based.

يعتمد على الخوارزميات.

So today, I'm going to tell you about some of the AI trends that I see.

لذا سأخبركم اليوم عن بعض اتجاهات الذكاء الاصطناعي التي أراها.

I'm going to draw on my experience building these systems

سأستفيد من خبرتي في بناء هذه الأنظمة

over the last two decades to tell you about the tools

على مدى العقدين الماضيين لأخبركم عن الأدوات

that I and others have built to look into these AI ingredients.

التي صنعتها أنا وآخرون للنظر في مكونات الذكاء الاصطناعي هذه.

And finally, I'm going to leave you with three principles

وأخيرًا، سأترككم مع ثلاثة مبادئ

that I think will give us a healthier relationship

أعتقد أنها ستعطينا علاقة صحية

to the companies that build artificial intelligence.

مع الشركات التي تبني الذكاء الاصطناعي.

I'm going to start with the question, how did we get here?

سأبدأ بالسؤال، كيف وصلنا إلى هنا؟

AI is not new.

الذكاء الاصطناعي ليس جديدًا.

We have been living alongside AI for two decades.

نحن نعيش جنبًا إلى جنب مع الذكاء الاصطناعي منذ عقدين.

Every time that you apply for something online,

في كل مرة تتقدم فيها بطلب للحصول على شيء ما عبر الإنترنت،

you open a bank account or you go through passport control,

أو تفتح حسابًا مصرفيًا أو تمر عبر مراقبة الجوازات،

you're encountering an algorithmic system.

فإنك تواجه نظامًا خوارزميًا.

We've also been living with the negative repercussions of AI for 20 years,

لقد تعايشنا أيضًا مع التداعيات السلبية للذكاء الاصطناعي لمدة 20 عامًا،

and this is how it makes us sick.

وهذه هي الطريقة التي تجعلنا نشعر بالمرض.

These systems get deployed on broad populations,

يتم نشر هذه الأنظمة على عدد كبير من السكان،

and then certain subsets end up getting negatively disparately impacted,

ومن ثم ينتهي الأمر بمجموعات فرعية معينة بالتأثر سلبًا بصورة متفاوتة،

usually on the basis of race or gender or other characteristics.

عادةً على أساس العرق أو الجنس أو الخصائص الأخرى.

We need to be able to understand the ingredients to these systems

نحن بحاجة إلى أن نكون قادرين على فهم مكونات هذه الأنظمة

so that we can address the issues.

حتى نتمكن من معالجة المشكلات.

So what are the ingredients to an AI system?

إذن ما هي مكونات نظام الذكاء الاصطناعي؟

Well, data fuels the AI.

حسنًا، البيانات تغذي الذكاء الاصطناعي.

The AI is going to look like the data that you gave it.

سيبدو الذكاء الاصطناعي مثل البيانات التي قدمتها له.

So for example,

لذلك، على سبيل المثال،

if I want to make a risk-assessment system for diabetes,

إذا كنت أرغب في إنشاء نظام لتقييم المخاطر لمرض السكري،

my training data set might be adults in a certain region.

فقد تكون مجموعة بيانات التدريب الخاصة بي من البالغين في منطقة معينة.

And so I'll build that system,

ولذا سأقوم ببناء هذا النظام،

it'll work really well for those adults in that region.

وسيعمل بصورة جيدة حقًا لأولئك البالغين في تلك المنطقة.

But it does not work for adults in other regions

لكنها لا تعمل للبالغين في مناطق أخرى

or maybe at all for children.

أو ربما للأطفال على الإطلاق.

So you can imagine if we deploy this for all those populations,

لذا يمكنك أن تتخيل أنه إذا قمنا بنشر هذا لجميع هؤلاء السكان،

there are going to be a lot of people who are harmed.

فسيكون هناك الكثير من الأشخاص الذين يتعرضون للأذى.

We need to be able to understand the quality of the data before we use it.

نحن بحاجة إلى أن نكون قادرين على فهم جودة البيانات قبل استخدامها.

But I'm sorry to tell you that we currently live

ولكن يؤسفني أن أخبرك أننا نعيش حاليًا

in what I call the Wild West of data.

في ما أسميه الغرب المتوحش للبيانات.

It's really hard to assess quality of data before you use it.

من الصعب حقًا تقييم جودة البيانات قبل استخدامها.

There are no global standards for data quality assessment,

لا توجد معايير عالمية لتقييم جودة البيانات،

and there are very few data regulations around how you can use data

وهناك عدد قليل جدًا من لوائح البيانات حول كيفية استخدام البيانات

and what types of data you can use.

وأنواع البيانات التي يمكنك استخدامها.

This is kind of like in the food safety realm.

هذا يشبه إلى حد ما في مجال سلامة الأغذية.

If we couldn't understand where the ingredients were sourced,

إذا لم نتمكن من فهم مصدر المكونات،

we also had no idea whether they were safe for us to consume.

لم تكن لدينا أيضًا أي فكرة عما إذا كانت آمنة بالنسبة لنا للاستهلاك.

We also tend to stitch data together,

نميل أيضًا إلى تجميع البيانات معًا،

and every time we stitch this data together,

وفي كل مرة نقوم فيها بتجميع هذه البيانات معًا،

which we might find on the internet, scrape, we might generate it,

والتي قد نجدها على الإنترنت، ونكشطها، وقد نولدها،

we could source it.

ويمكننا الحصول عليها.

We lose information about the quality of the data.

نفقد المعلومات حول جودة البيانات.

And the folks who are building the models

والأشخاص الذين يبنون النماذج

are not the ones that found the data.

ليسوا هم الذين عثروا على البيانات.

So there's further information that's lost.

لذلك هناك المزيد من المعلومات المفقودة.

Now, I've been asking myself a lot of questions

الآن، أطرح على نفسي الكثير من الأسئلة

about how can we understand the data quality before we use it.

حول كيف يمكننا فهم جودة البيانات قبل استخدامها.

And this emerges from two decades of building these kinds of systems.

وهذا ينبثق من عقدين من بناء هذه الأنواع من الأنظمة.

The way I was trained to build systems is similar to how people do it today.

الطريقة التي تدربت بها على بناء الأنظمة تشبه الطريقة التي يقوم بها الناس اليوم.

You build for the middle of the distribution.

تقوم بالبناء في منتصف التوزيع.

That's your normal user.

هذا هو المستخدم العادي الخاص بك.

لذلك بالنسبة لي، فإن الكثير من مجموعات بيانات التدريب الخاصة بي

So for me, a lot of my training data sets

would include information about people from the Western world who speak English,

ستشمل معلومات حول الأشخاص من العالم الغربي الذين يتحدثون الإنجليزية،

who have certain normative characteristics.

والذين لديهم خصائص معيارية معينة.

And it took me an embarrassingly long amount of time

واستغرق الأمر وقتًا طويلًا بصورة محرجة

to realize that I was not my own user.

لأدرك أنني لست مستخدمًا خاصًا بي.

So I identify as non-binary, as mixed race,

لذلك أعرف أنني غير ثنائي، كعرق مختلط،

I wear a hearing aid

أرتدي أداة مساعدة

and I just wasn't represented in the data sets that I was using.

للسمع ولم أكن ممثلًا في مجموعات البيانات التي كنت أستخدمها.

And so I was building systems that literally didn't work for me.

ولذا كنت أقوم ببناء أنظمة لا تناسبني حرفيًا.

And for example, I once built a system that repeatedly told me

وعلى سبيل المثال، قمت ذات مرة ببناء نظام أخبرني مرارًا وتكرارًا

that I was a white Eastern-European lady.

أنني سيدة بيضاء من أوروبا الشرقية.

This did a real number on my identity.

لقد أدى هذا إلى رقم حقيقي في هويتي.

(Laughter)

(ضحك)

But perhaps even more worrying,

ولكن ربما الأمر الأكثر إثارة للقلق

this was a system to be deployed in health care,

هو أنه كان نظامًا سيتم نشره في مجال الرعاية الصحية،

where your background can determine things like risk scores for diseases.

حيث يمكن لخلفيتك تحديد أشياء مثل درجات خطر الإصابة بالأمراض.

And so I started to wonder,

وهكذا بدأت أتساءل،

can I build tools and work with others to do this

هل يمكنني إنشاء أدوات والعمل مع الآخرين للقيام بذلك

so that I can look inside of a dataset before I use it?

حتى أتمكن من البحث داخل مجموعة البيانات قبل استخدامها؟

In 2018, I was part of a fellowship at Harvard and MIT,

في عام 2018، كنت جزءًا من زمالة في هارفارد ومعهد ماساتشوستس للتكنولوجيا،

and I, with some colleagues, decided to try to address this problem.

وقررت مع بعض الزملاء محاولة معالجة هذه المشكلة.

And so we launched the Data Nutrition Project,

ولذا أطلقنا مشروع التغذية بالبيانات،

which is a research group and also a nonprofit

وهو عبارة عن مجموعة بحثية وأيضًا منظمة غير ربحية

that builds nutrition labels for datasets.

تبني ملصقات التغذية لمجموعات البيانات.

So similar to food nutrition labels,

على غرار ملصقات التغذية الغذائية،

the idea here is that you can look inside of a data set before you use it.

الفكرة هنا هي أنه يمكنك البحث داخل مجموعة البيانات قبل استخدامها.

You can understand the ingredients,

يمكنك فهم المكونات

see whether it's healthy for the things that you want to do.

ومعرفة ما إذا كانت صحية للأشياء التي تريد القيام بها.

Now this is a cartoonified version of the label.

الآن هذه نسخة كارتونية من الملصق.

The top part tells you about the completion of the label itself.

يخبرك الجزء العلوي عن إكمال الملصق نفسه.

وتحت ذلك لديك معلومات حول البيانات

And underneath that you have information about the data,

the description, the keywords, the tags,

والوصف والكلمات الرئيسية والعلامات،

and importantly, on the right hand side,

والأهم من ذلك، على الجانب الأيمن،

how you should and should not use the data.

كيف يجب عليك استخدام البيانات ولا ينبغي استخدامها.

If you could scroll on this cartoon,

إذا كان بإمكانك التمرير فوق هذا الكارتون،

you would see information about risks and mitigation strategies

فسترى معلومات حول المخاطر واستراتيجيات التخفيف

across a number of vectors.

عبر عدد من النواقل.

And we launched this with two audiences in mind.

وأطلقنا هذا مع وضع جمهورين في الاعتبار.

The first audience are folks who are building AI.

الجمهور الأول هم الأشخاص الذين يبنون الذكاء الاصطناعي.

So they’re choosing datasets.

لذا فهم يختارون مجموعات البيانات.

We want to help them make a better choice.

نريد مساعدتهم على اتخاذ خيار أفضل.

The second audience are folks who are building datasets.

الجمهور الثاني هم الأشخاص الذين يقومون ببناء مجموعات البيانات.

And it turns out

واتضح

that when you tell someone they have to put a label on something,

أنه عندما تخبر شخصًا ما أنه يتعين عليه وضع ملصق على شيء ما،

they think about the ingredients beforehand.

فإنه يفكر في المكونات مسبقًا.

The analogy here might be,

قد يكون التشابه هنا هو،

if I want to make a sandwich and say that it’s gluten-free,

إذا أردت أن أصنع شطيرة وأقول إنها خالية من الغلوتين،

I have to think about all the components as I make the sandwich,

يجب أن أفكر في جميع المكونات أثناء صنع الساندويتش،

the bread and the ingredients, the sauces.

والخبز والمكونات، والصلصات.

I can't just put it on a sandwich and put it in front of you

لا يمكنني وضعها على شطيرة ووضعها أمامك

and tell you it's gluten-free.

وإخبارك بأنها خالية من الغلوتين.

We're really proud of the work that we've done.

نحن فخورون حقًا بالعمل الذي قمنا به.

We launched this as a design and then a prototype

أطلقنا هذا كتصميم ثم نموذج أولي

and ultimately a tool for others to make their own labels.

وفي النهاية أداة للآخرين لإنشاء ملصقاتهم الخاصة.

And we've worked with experts at places like Microsoft Research,

وقد عملنا مع خبراء في أماكن مثل Microsoft Research

the United Nations and professors globally

والأمم المتحدة والأساتذة على مستوى العالم

to integrate the label and the methodology

لدمج التسمية والمنهجية

into their work flows and into their curricula.

في تدفقات عملهم وفي مناهجهم الدراسية.

But we know it only goes so far.

لكننا نعلم أن الأمر لا يصل إلا إلى حد بعيد.

And that's because it's actually really hard to get a label

وهذا لأنه من الصعب حقًا الحصول

on every single dataset.

على تصنيف لكل مجموعة بيانات.

And this comes down to the question

وهذا يعود إلى السؤال

of why would you put a label on a dataset to begin with?

لماذا تضع تصنيفًا على مجموعة بيانات لتبدأ بها؟

Well, the first reason is not rocket science.

حسنًا، السبب الأول ليس علم الصواريخ.

It's that you have to.

هذا هو ما يجب عليك القيام به.

And this is, quite frankly, why food nutrition labels exist.

وهذا هو، بصراحة تامة، سبب وجود ملصقات التغذية الغذائية.

It's because if they didn't put them on the boxes, it would be illegal.

هذا لأنهم إذا لم يضعوها على الصناديق، فسيكون ذلك غير قانوني.

However, we don't really have AI regulation.

ومع ذلك، ليس لدينا حقًا تنظيم الذكاء الاصطناعي.

We don't have much regulation around the use of data.

ليس لدينا الكثير من اللوائح حول استخدام البيانات.

Now there is some on the horizon.

الآن هناك البعض في الأفق.

For example, the EU AI Act just passed this week.

على سبيل المثال، تم تمرير قانون الاتحاد الأوروبي للذكاء الاصطناعي هذا الأسبوع.

And although there are no requirements around making the training data available,

وعلى الرغم من عدم وجود متطلبات حول إتاحة بيانات التدريب،

they do have provisions for creating transparency labeling

إلا أنها تحتوي على أحكام لإنشاء علامات الشفافية

like the dataset nutrition label, data sheets, data statements.

مثل ملصق التغذية لمجموعة البيانات وأوراق البيانات وبيانات البيانات.

There are many in the space.

هناك الكثير في الفضاء.

We think this is a really good first step.

نعتقد أن هذه خطوة أولى جيدة حقًا.

The second reason that you might have a label on a dataset

السبب الثاني وراء احتمال وجود تصنيف على مجموعة البيانات

is because it is a best practice or a cultural norm.

هو أنها أفضل ممارسة أو معيار ثقافي.

The example here might be how we're starting to see

قد يكون المثال هنا هو كيف بدأنا نرى

more and more food packaging and menus at restaurants

المزيد والمزيد من عبوات الطعام والقوائم في المطاعم

include information about whether there's gluten.

تتضمن معلومات حول ما إذا كان هناك جلوتين.

This is not required by law,

هذا ليس مطلوبًا بموجب القانون،

although if you do say it, it had better be true.

على الرغم من أنك إذا قلت ذلك، فمن الأفضل أن يكون صحيحًا.

And the reason that people are adding this to their menus

والسبب في أن الناس يضيفون هذا إلى قوائم الطعام الخاصة بهم

and their food packaging

وتغليف المواد الغذائية الخاصة بهم

is because there's an increased awareness of the sensitivity

هو وجود وعي متزايد بحساسية

and kind of the seriousness of that kind of an allergy or condition.

ونوع خطورة هذا النوع من الحساسية أو الحالة.

So we're also seeing some movement in this area.

لذلك نشهد أيضًا بعض الحركة في هذه المنطقة.

Folks who are building datasets are starting to put nutrition labels,

بدأ الأشخاص الذين يقومون ببناء مجموعات البيانات في وضع ملصقات التغذية

data sheets on their datasets.

وأوراق البيانات على مجموعات البيانات الخاصة بهم.

And people who are using data are starting to request the information.

وبدأ الأشخاص الذين يستخدمون البيانات في طلب المعلومات.

This is really heartening.

هذا أمر مشجع حقًا.

And you might say, "Kasia, why are you up here?

وقد تقول، «كاسيا، لماذا أنت هنا؟

Everything seems to be going well, seems to be getting better."

يبدو أن كل شيء يسير على ما يرام، ويبدو أنه يتحسن».

In some ways it is.

إنه كذلك من بعض النواحي.

But I'm also here to tell you that our relationship to data

لكنني هنا أيضًا لأخبرك أن علاقتنا بالبيانات

is getting worse.

تزداد سوءًا.

Now the last few years have seen a supercharged interest

الآن شهدت السنوات القليلة الماضية اهتمامًا

in gathering datasets.

كبيرًا بجمع مجموعات البيانات.

Companies are scraping the web.

تقوم الشركات بتجريف الويب.

They're transcribing millions of hours of YouTube videos into text.

إنهم يقومون بنسخ ملايين الساعات من مقاطع فيديو YouTube إلى نص.

By some estimates, they'll run out of information on the internet by 2026.

وفقًا لبعض التقديرات، ستنفد المعلومات على الإنترنت بحلول عام 2026.

They're even considering buying publishing houses

حتى أنهم يفكرون في شراء دور نشر

so they can get access to printed text and books.

حتى يتمكنوا من الوصول إلى النصوص والكتب المطبوعة.

So why are they gathering this information?

فلماذا يجمعون هذه المعلومات؟

Well, they need more and more information

حسنًا، يحتاجون إلى المزيد والمزيد من المعلومات

to train a new technique called generative AI.

لتدريب تقنية جديدة تسمى الذكاء الاصطناعي التوليدي.

I want to tell you about the size of these datasets.

أريد أن أخبركم عن حجم مجموعات البيانات هذه.

If you look at GPT-3, which is a model that launched in 2020,

إذا نظرت إلى GPT-3، وهو نموذج تم إطلاقه في عام 2020،

the training dataset included 300 billion words, or parts of words.

فإن مجموعة بيانات التدريب تضمنت 300 مليار كلمة، أو أجزاء من الكلمات.

Now for context, the English language contains less than a million words.

الآن بالنسبة للسياق، تحتوي اللغة الإنجليزية على أقل من مليون كلمة.

Just three years later, DBRX was launched,

بعد ثلاث سنوات فقط، تم إطلاق DBRX،

which was trained on eight trillion words.

والتي تم تدريبها على ثمانية تريليونات كلمة.

So 300 billion to eight trillion in three years.

لذلك 300 مليار إلى ثمانية تريليون في ثلاث سنوات.

And the datasets are getting bigger.

وتتزايد مجموعات البيانات.

Now with each successive model launch,

الآن مع كل إطلاق نموذج متتالي،

the datasets are actually less and less transparent.

أصبحت مجموعات البيانات في الواقع أقل شفافية.

And even we have access to the information,

وحتى لدينا إمكانية الوصول إلى المعلومات،

it's so big, it's so hard to look inside without any kind of transparency tooling.

فهي كبيرة جدًا، ومن الصعب جدًا النظر إلى الداخل دون أي نوع من أدوات الشفافية.

And the generative AI itself is also causing some worries.

كما أن الذكاء الاصطناعي التوليدي نفسه يسبب بعض المخاوف.

And you've probably encountered this technique through ChatGPT.

وربما واجهت هذه التقنية من خلال ChatGPT.

I don't need to know what you do on the internet,

لست بحاجة إلى معرفة ما تفعله على الإنترنت،

that's between you and the internet,

فهذا بينك وبين الإنترنت،

but you probably know, just like I do,

ولكن ربما تعرف، مثلي تمامًا،

how easy it is to create information using ChatGPT

مدى سهولة إنشاء المعلومات باستخدام ChatGPT

and other generative AI technologies

وتقنيات الذكاء الاصطناعي التوليدية الأخرى

and to put that out onto the web.

ونشرها على الويب.

And so we're looking at a situation

ولذا فإننا ننظر إلى موقف سنواجه

in which we're going to encounter lots of information

فيه الكثير من المعلومات

that's algorithmically generated but we won't know it

التي تم إنشاؤها بطريقة حسابية ولكننا لن نعرفها ولن نعرف

and we won't know whether it's true.

ما إذا كانت صحيحة.

And this increases the scale of the potential risks and harms from AI.

وهذا يزيد من حجم المخاطر والأضرار المحتملة من الذكاء الاصطناعي.

Not only that, I'm sorry,

ليس ذلك فحسب، أنا آسف،

but the models themselves are getting controlled

ولكن النماذج نفسها يتم التحكم فيها

by a smaller and smaller number of private actors in US tech firms.

من قبل عدد أقل وأقل من الجهات الفاعلة الخاصة في شركات التكنولوجيا الأمريكية.

So this is the models that were launched last year, in 2023.

إذن هذه هي النماذج التي تم إطلاقها العام الماضي، في عام 2023.

And you can see most of them are pink, meaning they came out of industry.

ويمكنك أن ترى أن معظمها باللون الوردي، مما يعني أنها خرجت من الصناعة.

And if you look at this over time, more and more are coming out of industry

وإذا نظرت إلى هذا بمرور الوقت، فإن المزيد والمزيد يخرج من الصناعة

and fewer and fewer are coming out of all the other sectors combined,

ويقل عدد القطاعات الأخرى مجتمعة،

including academia and government,

بما في ذلك الأوساط الأكاديمية والحكومية،

where technology is often launched in a way

حيث يتم إطلاق التكنولوجيا غالبًا بطريقة

that's more easy to be scrutinized.

يسهل فحصها.

So if we go back to our cafe analogy,

لذا إذا عدنا إلى تشبيهنا بالمقاهي،

this is like you have a small number of private actors

يبدو الأمر كما لو أن لديك عددًا صغيرًا من الممثلين الخاصين

who own all the ingredients,

الذين يمتلكون جميع المكونات،

they make all the sandwiches globally,

ويصنعون جميع السندويشات على مستوى العالم،

and there's not a lot of regulation.

وليس هناك الكثير من التنظيم.

And so at this point you're probably scared

وبالتالي في هذه المرحلة ربما تكون خائفًا

and maybe feeling a little uncomfortable.

وربما تشعر ببعض عدم الارتياح.

Which is ironic because a few minutes ago, I was going to get you all sandwiches

وهو أمر مثير للسخرية لأنني قبل بضع دقائق، كنت سأحضر لك جميع السندويشات

and you said yes.

وقلت نعم.

This is why you should not accept food from strangers.

لهذا السبب يجب ألا تقبل الطعام من الغرباء.

But I wouldn't be up here if I weren't also optimistic.

لكنني لن أكون هنا إذا لم أكن متفائلاً أيضًا.

And that's because I think we have momentum

وذلك لأنني أعتقد أن لدينا زخمًا

behind the regulation and the culture changes.

وراء التنظيم وتغيير الثقافة.

Especially if we align ourselves with three basic principles

خاصًة إذا التزمنا بثلاثة مبادئ أساسية

about how corporations should engage with data.

حول كيفية تفاعل الشركات مع البيانات.

The first principle is that companies that gather data should tell us

المبدأ الأول هو أن الشركات التي تجمع البيانات يجب أن تخبرنا

what they're gathering.

بما تجمعه.

This would allow us to ask questions like, is it copyrighted material?

هذا سيسمح لنا بطرح أسئلة مثل، هل هي مواد محمية بحقوق الطبع والنشر؟

Is that information private?

هل هذه المعلومات خاصة؟

Could you please stop?

هل يمكنك التوقف؟

It also opens up the data to scientific inquiry.

كما أنه يفتح البيانات للبحث العلمي.

The second principle is that companies that are gathering our data should tell us

المبدأ الثاني هو أن الشركات التي تجمع بياناتنا يجب أن تخبرنا

what they're going to do with it before they do anything with it.

بما ستفعله بها قبل أن تفعل أي شيء بها.

And by requiring that companies tell us their plan,

ومن خلال مطالبة الشركات بإخبارنا بخطتها،

this means that they have to have a plan,

فهذا يعني أنه يجب أن يكون لديها خطة،

which would be a great first step.

والتي ستكون خطوة أولى رائعة.

It also probably would lead to the minimization of data capture,

من المحتمل أيضًا أن يؤدي ذلك إلى تقليل التقاط البيانات،

because they wouldn't be able to capture data

لأنهم لن يكونوا قادرين على التقاط البيانات

if they didn't know what they were already going to do with it.

إذا لم يعرفوا ما الذي سيفعلونه بالفعل بها.

And finally, principle three,

وأخيرًا، المبدأ الثالث،

companies that build AI should tell us about the data

يجب على الشركات التي تبني الذكاء الاصطناعي أن تخبرنا عن البيانات

that they use to train the AI.

التي تستخدمها لتدريب الذكاء الاصطناعي.

And this is where dataset nutrition labels

وهنا يأتي دور ملصقات التغذية لمجموعة البيانات

and other transparency labeling comes into play.

وغيرها من علامات الشفافية.

You know, in the case where the data itself won't be made available,

كما تعلمون، في حالة عدم إتاحة البيانات نفسها،

which is most of the time, probably,

وهو في معظم الأوقات، على الأرجح،

the labeling is critical for us to be able to investigate the ingredients

يعد وضع العلامات أمرًا بالغ الأهمية بالنسبة لنا لنتمكن من التحقق من المكونات

and start to find solutions.

والبدء في إيجاد الحلول.

So I want to leave you with the good news,

لذلك أريد أن أترككم مع الأخبار الجيدة،

and that is that the data nutrition projects and other projects

وهي أن مشاريع تغذية البيانات وغيرها من المشاريع

are just a small part of a global movement

ليست سوى جزء صغير من حركة عالمية

towards AI accountability.

نحو المساءلة في مجال الذكاء الاصطناعي.

Dataset Nutrition Label and other projects are just a first step.

تُعد بطاقة التغذية لمجموعة البيانات والمشاريع الأخرى مجرد خطوة أولى.

Regulation's on the horizon,

التنظيم يلوح في الأفق،

the cultural norms are shifting,

والأعراف الثقافية تتغير،

especially if we align with these three basic principles

خاصًة إذا انسقنا مع هذه المبادئ الأساسية الثلاثة

that companies should tell us what they're gathering,

التي يجب على الشركات

tell us what they're going to do with it before they do anything with it,

إخبارنا بما تجمعه، وإخبارنا بما ستفعله به قبل أن تفعل أي شيء به،

and that companies that are building AI

وأن الشركات التي تبني الذكاء الاصطناعي

should explain the data that they're using to build the system.

يجب أن تشرح البيانات التي تستخدمها لبناء النظام.

We need to hold these organizations accountable

نحن بحاجة إلى تحميل هذه المنظمات

for the AI that they're building

المسؤولية عن الذكاء الاصطناعي الذي تبنيه

by asking them, just like we do with the food industry,

من خلال سؤالها، تمامًا كما نفعل مع صناعة المواد الغذائية،

what's inside and how did you make it?

ماذا يوجد في الداخل وكيف صنعته؟

Only then can we mitigate the issues before they occur,

عندها فقط يمكننا التخفيف من المشكلات قبل

as opposed to after they occur.

حدوثها، بدلًا من بعد حدوثها.

And in doing so, create an integrated algorithmic internet

وعند القيام بذلك، قم بإنشاء إنترنت خوارزمي متكامل

that is healthier for everyone.

يكون أكثر صحة للجميع.

Thank you.

شكرًا لكم.

(Applause)

(تصفيق)