How bad data keeps us from good AI | Mainak Mazumdar

Transcriber: Leslie Gauthier Reviewer: Joanna Pietrulewicz

المترجم: Hani Eldalees المدقّق: omar idmassaoud

يمكن أن يضيف الذكاء الصناعي 16 مليار دولار للاقتصاد العالمي

خلال 10 سنوات القادمة.

لن يصنع هذا الاقتصاد من خلال مليارات الناس

AI could add 16 trillion dollars to the global economy

أو ملايين المصانع،

ولكن من خلال أجهزة الكمبيوتر الخوارزميات.

شاهدنا لغاية الآن منافع عظيمة للذكاء الصناعي

in the next 10 years.

This economy is not going to be built by billions of people

من خلال تبسيط المهام،

وايجاد الكفاءة

or millions of factories,

وتحسين جودة حياتنا.

but by computers and algorithms.

ومع ذلك، عندما يتعلق الأمر بالإنصاف وصنع القرار السياسي العادل،

We have already seen amazing benefits of AI

in simplifying tasks,

لم يرقى الذكاء الصناعي للمستوى المتوقع منه.

bringing efficiencies

and improving our lives.

أصبح الذكاء الصناعي حارس البوابة للإقتصاد،

However, when it comes to fair and equitable policy decision-making,

ليقرر من يحصل على الوظائف

ومن يمكنه الحصول على القروض.

AI has not lived up to its promise.

يعزز الذكاء الصناعي ويسرع من تحيزنا

AI is becoming a gatekeeper to the economy,

بسرعة وعلى نطاق

deciding who gets a job

تترتب عليه آثار مجتمعية.

and who gets an access to a loan.

إذّا، هل يخذلنا الذكاء الصناعي؟

هل نصمم تلك الخوارزميات لتنتج عنها قرارات متحيزة وخاطئة؟

AI is only reinforcing and accelerating our bias

at speed and scale

with societal implications.

كعالم للبيانات، أنا هنا لأقول لكم

So, is AI failing us?

المشكلة ليست الخوازميات،

بل البيانات المتحيزة

Are we designing these algorithms to deliver biased and wrong decisions?

المسؤولة عن تلك القرارات.

لكي نجعل الذكاء الصناعي متاحًا للإنسانية والمجتمعات،

As a data scientist, I'm here to tell you,

نحتاج لإعادة تشغيل عاجلة.

it's not the algorithm,

but the biased data

بدلًا من الخوارزميات

that's responsible for these decisions.

نحتاج أن نركز على البيانات.

نحن ننفق الوقت والمال للتوسع في الذكاء الصناعي

To make AI possible for humanity and society,

على حساب التصميم وتجميع بيانات عالية الجودة ومتناسقة.

we need an urgent reset.

Instead of algorithms,

يجب أن نوقف البيانات المتحيزة التي لدينا حاليًا،

we need to focus on the data.

We're spending time and money to scale AI

ونركز على 3 نقاط:

at the expense of designing and collecting high-quality and contextual data.

البنية التحتية للبيانات،

جودة البيانات

ومحو أمية البيانات.

We need to stop the data, or the biased data that we already have,

في شهر يونيو لهذا العام،

شاهدنا تحيز الذكاء الصناعي في جامعة ديوك بشكل مخجل

and focus on three things:

وهو يسمى “بلص“،

data infrastructure,

data quality

وهو يقوم بإيضاح صورة مبهمة

and data literacy.

ليتكون منها صورة واضحة يمكن تميز شخص ما منها.

In June of this year,

we saw embarrassing bias in the Duke University AI model

قامت تلك الخوارزمية بشكل خاطئ بايضاح صورة لشخص غير أبيض لشخص ذو بشرة بيضاء.

called PULSE,

which enhanced a blurry image

كانت المواد التدريبية فقرة المحتوى للأشخاص من ذوي البشرة السمراء،

into a recognizable photograph of a person.

This algorithm incorrectly enhanced a nonwhite image into a Caucasian image.

ما أدى لحدوث قرارات واتنتاجات خاطئة.

لعلها لم تكن المرة الأولى

التي ترى ذكاء صناعي يخطئ في التعرف على صورة أشخاص ذوي بشرة سمراء.

African-American images were underrepresented in the training set,

على الرغم من منهجية محسنة للذكاء الصناعي،

leading to wrong decisions and predictions.

قلة المحتوى الخاص للأعراق والإثنيات المختلفة

Probably this is not the first time

you have seen an AI misidentify a Black person's image.

مازال يتركنا مع نتائج منحازة.

هذا بحث أكاديمي،

Despite an improved AI methodology,

ولكن ليست جميع تحيزات البيانات أكاديمية.

the underrepresentation of racial and ethnic populations

التحير له عواقب حقيقية.

خذ مثلًا تعداد السكان للولايات المتحدة عام 2020.

still left us with biased results.

This research is academic,

التعداد هو الأساس

however, not all data biases are academic.

للعديد من السياسات والقرارات الإجتماعية والإقتصادية،

Biases have real consequences.

لذا يجب أن يشتمل التعداد 100% من جميع السكان

Take the 2020 US Census.

في الولايات المتحدة.

The census is the foundation

ولكن مع الوباء

for many social and economic policy decisions,

والسياسة ومسألة المواطنة،

therefore the census is required to count 100 percent of the population

عدم اجراء تعداد كامل للأقليات هو أمر محتمل الوقوع.

أتوقع حدوث عدم احصاء كامل للأقليات

in the United States.

However, with the pandemic

اللذين من الصعب تحديد موقعهم أو التواصل معهم أو حثهم للمشاركة في الإحصاء.

and the politics of the citizenship question,

undercounting of minorities is a real possibility.

القصور في الإحصاء سيتسبب في التحيز

I expect significant undercounting of minority groups

ويقوض جودة البنية التحتية لبياناتنا.

who are hard to locate, contact, persuade and interview for the census.

لننظر في القصور في إحصاء عام 2010.

تم اقصاء 16 مليون شخص في الإحصاء الأخير.

Undercounting will introduce bias

وهذا يساوي تعداد السكان كاملًا

and erode the quality of our data infrastructure.

لكل من أريزونا وأركنساس وأوكلاهوما وأيوا مجتمعين.

Let's look at undercounts in the 2010 census.

16 million people were omitted in the final counts.

كما شهدنا اقصاء مليون طفل تحت سنة 5 سنوات من الإحصاء

This is as large as the total population

خلال تعداد 2010.

of Arizona, Arkansas, Oklahoma and Iowa put together for that year.

الحقيقة، القصور في تعداد الأقليات

أمر معتاد في إحصاءات وطنية أخرى،

We have also seen about a million kids under the age of five undercounted

حيث من الصعب الوصول بعض الأقليات،

إنهم لا يثقون في الحكومة

in the 2010 Census.

أو أنهم يعيشون في منطقة تعاني من عدم الاستقرار السياسي.

Now, undercounting of minorities

is common in other national censuses,

مثلًا،

الإحصاء في أستراليا عام 2016

as minorities can be harder to reach,

لم يتم عد السكان الأصليين وسكان مضيق توريس

they're mistrustful towards the government

or they live in an area under political unrest.

بنسبة 17.5%

For example,

نتوقع القصور في الإحصاء عام 2020

the Australian Census in 2016

سيكون أعلى بكثير من تعداد 2010،

undercounted Aboriginals and Torres Strait populations

وعواقب هذا التحيز ستكون هائلة.

by about 17.5 percent.

لننظر لنتائج بيانات الإحصاء.

We estimate undercounting in 2020

التعداد هي أكثر البيانات الثرية ثقة وانفتاحًا ومتاحة للجمهور

to be much higher than 2010,

and the implications of this bias can be massive.

بخصوص التركيبة السكانية وخصائصها.

Let's look at the implications of the census data.

وفي حين أن الشركات لديها معلوماتها الخاصة

Census is the most trusted, open and publicly available rich data

عن المستهلكين،

تقارير هيئة الإحصاء دقيقة وعامة

on population composition and characteristics.

بخصوص العمر والجنس والعرق

السلالة والحالة الوظيفية والإجتماعية

While businesses have proprietary information

والتوزيع الجغرافي،

on consumers,

والتي تعتبر الأساس للبنية التحتية معلومات الشعب كاملًا.

the Census Bureau reports definitive, public counts

وحين يتم تقليل حجم تعداد الأقليات،

on age, gender, ethnicity,

race, employment, family status,

تكون نماذج الذكاء الصناعي التي تتعامل مع المواصلات العامة،

as well as geographic distribution,

الإسكان والرعاية الصحية

التأمين

which are the foundation of the population data infrastructure.

من المرجح أنها ستتغاضى عن المجتمعات التي تحتاج هذه الخدمات بصورة أكبر.

When minorities are undercounted,

الخطوة الأولى لتحسين النتائج

AI models supporting public transportation,

هي جعل قواعد البيانات أكثر شمولية

housing, health care,

insurance

للعمر والجنس والعرق

are likely to overlook the communities that require these services the most.

لكل بيانات التعداد.

بما أن الإحصاء هام للغاية،

First step to improving results

يجب بذل كل ما نستطيع لجعل نسبة التعداد 100%.

is to make that database representative

الإستشمار في جودة ودقة هذه البيانات

of age, gender, ethnicity and race

per census data.

هو أمر أساسي لجعل الذكاء الصناعي أمرًا ممكنًا،

Since census is so important,

ليس فقط للقليل وذوي الامتياز،

we have to make every effort to count 100 percent.

ولكن لكل شخص في المجتمع.

Investing in this data quality and accuracy

تستخدم معظم نماذج الذكاء الصناعي البيانات المتوفرة حاليًا

is essential to making AI possible,

أو تم تجميعها لأغراض أخرى

لأنها متاحة ورخيصة.

not for only few and privileged,

تتطلب جودة البيانات الانضباط والالتزام

but for everyone in the society.

Most AI systems use the data that's already available

التزام حقيقي.

هذا الالتزام بالايضاح

or collected for some other purposes

because it's convenient and cheap.

جمع البيانات وقياس نسبة التحيز،

Yet data quality is a discipline that requires commitment --

الاهتمام بهذا الأمر قليل للغاية

في عالم السرعة، الحجم والراحة،

real commitment.

يتم اهمال هذا الأمر غالبًا.

This attention to the definition,

كجزء من فريق علوم بيانات نيسلين،

data collection and measurement of the bias,

ذهبت في رحلات ميدانية لتجميع البيانات،

is not only underappreciated --

أزور متاجر تقع خارج شنغهاي وبانجلور.

in the world of speed, scale and convenience,

كان الهدف من تلك الزيارة قياس مبيعات التجزئة من تلك المتاجر.

it's often ignored.

As part of Nielsen data science team,

I went to field visits to collect data,

قدنا لأميال خارج المدينة،

ووجدنا تلك المتاجر الصغيرة

visiting retail stores outside Shanghai and Bangalore.

غير رسمية، يصعب الوصول لها.

The goal of that visit was to measure retail sales from those stores.

وربما كنت تتسائل

لماذا نحن معتمين بتلك المتاجر بالتحديد؟

كان بمقدورنا اختيار أحد المتاجر في المدينة

We drove miles outside the city,

found these small stores --

حيث يمكن للبيانات الالكترونية أن تدمج بسهولة في عملية جميع البيانات

informal, hard to reach.

And you may be wondering --

غير مكلفة ومتاحة وسهلة.

why are we interested in these specific stores?

لماذا نحن مهووسون في جودة

We could have selected a store in the city

ودقة البيانات من تلك المتاجر؟

where the electronic data could be easily integrated into a data pipeline --

الإجابة بسيطة:

لأن البيانات من تلك المتاجر النائية مهم.

cheap, convenient and easy.

Why are we so obsessed with the quality

بحسب منظمة العمل الدولية،

and accuracy of the data from these stores?

40% من الصينيين

The answer is simple:

و65% من الهنود يعيشون في مناطق نائية.

because the data from these rural stores matter.

تخيل التحيز في القرارات

According to the International Labour Organization,

عندما يتم تهميش 65% من الاتسهلاك في الهند من النماذج،

40 percent Chinese

and 65 percent of Indians live in rural areas.

ما يعني أن القرارات ستفضل المدن على المناطق الريفية.

Imagine the bias in decision

وبدون هذا السياق الريفي الحضري

when 65 percent of consumption in India is excluded in models,

وبيانات أسلوب العيش نمط الحياة والاقتصاد والقيم،

meaning the decision will favor the urban over the rural.

ماركات البيع بالتجزئة ستقوم باستثمارات خاطئة على الأسعار والإعلان والتسويق.

Without this rural-urban context

and signals on livelihood, lifestyle, economy and values,

تحيزنا المدني سيقودنا لقرارات وسياسات خاطئة للمناطق النائية

فيما يتعلق بالصحة واستثمارات اخرى.

retail brands will make wrong investments on pricing, advertising and marketing.

القرارات الخاطئة ليست مشكلة بخوارزميات الذكاء الصناعي.

Or the urban bias will lead to wrong rural policy decisions

بل هي مشكلة في البيانات

التي لم تشمل مناطق كانت مستهدفه في المقام الأول.

with regards to health and other investments.

Wrong decisions are not the problem with the AI algorithm.

وجود البيانات في سياق معين مهم،

وليست الخوارزميات.

It's a problem of the data

لننظر لمثال آخر.

that excludes areas intended to be measured in the first place.

زرت حدائق توقف المقطورات المنزلية النائية في ولاية اوريجون

The data in the context is a priority,

وشقق في ولاية نيويورك

لدعوة سكانها للمشاركة في اجتماعات نيلسون.

not the algorithms.

Let's look at another example.

تمثل تلك الاجتماعات بشكل احصائي عينة من تلك المنازل

I visited these remote, trailer park homes in Oregon state

اليتي دعوناها للمشاركة في تلك الاحصائيات

and New York City apartments

خلال فترة زمنية معينة.

to invite these homes to participate in Nielsen panels.

مهمتنا لضمان مشاركة الجميع في تلك الاحصائيات

Panels are statistically representative samples of homes

قادنا لتجميع بيانات من منازل ذوي اصول لاتينية وافريقية

that we invite to participate in the measurement

الذين يستخدمون هوائي استقبال لمشاهدة التلفاز في منازلهم.

over a period of time.

Our mission to include everybody in the measurement

طبقًا لبيانات نيلسون،

تشكل هذه المنازل ١٥٪؜ من مجموع المنازل الامريكية،

led us to collect data from these Hispanic and African homes

والذي يبلغ 45 مليون شخص.

who use over-the-air TV reception to an antenna.

التزامنا وتركيزنا على الجودة جعلنا نبذل كل جهد ممكن

Per Nielsen data,

these homes constitute 15 percent of US households,

لجمع البيانات

من تلك 15٪؜ اللتي من الصعب الوصل لها

which is about 45 million people.

لماذا هذا مهم؟

Commitment and focus on quality means we made every effort

هذه المجموعة التي لها وزن

هي هامة للغاية للاسواق والعلامات التجارية

to collect information

from these 15 percent, hard-to-reach groups.

كما هو ذات الامر للشركات الاعلامية.

وبون تلك البيانات،

فإن الأسواق والعلامات التجارية ومنتجاتها

Why does it matter?

This is a sizeable group

لن تكون قادرة للوصول لهؤلاء الناس،

that's very, very important to the marketers, brands,

وبث اعلانات تستهدف تلك الاقليات ذات الأهمية الشديدة.

as well as the media companies.

وبدن العوائد الإعلانية،

Without the data,

the marketers and brands and their models

فان شركات البث مثل تيليمندو وينيفيجن،

would not be able to reach these folks,

لن تكون قادر على تقديم محتوى مجاني،

as well as show ads to these very, very important minority populations.

بما فيها شركات الاخبار،

وهو اهم اساسي للغاية لديموقراطيتنا.

And without the ad revenue,

the broadcasters such as Telemundo or Univision,

هذه البيانات اساسية للاعمال والمجتمع.

would not be able to deliver free content,

هذه الفرصة التي تاتي مره في العمل لتقليل الانحياز الانساني في الذكاء الصناعي

including news media,

which is so foundational to our democracy.

تبدا في البيانات.

بدلامن التسابق لصنع خوارزميات جديدة،

This data is essential for businesses and society.

مهمتي هي صنع بنية تحتية افضل للبيانات

Our once-in-a-lifetime opportunity to reduce human bias in AI

التي تجعل من الممكن الحصول على ذكاء صناعي اثني.

starts with the data.

اتمنى ان تنضموا الي في مهمتي.

Instead of racing to build new algorithms,

شكرا لكم.

my mission is to build a better data infrastructure

that makes ethical AI possible.

I hope you will join me in my mission as well.

Thank you.