How humans and AI can work together to create better businesses | Sylvain Duranton

Translator: Ivana Korom Reviewer: Krystian Aparta

المترجم: JAMILA Rezk المدقّق: Shimaa Nabil

Let me share a paradox.

دعوني أشارككم هذا التناقض.

For the last 10 years,

خلال السنوات العشر الماضية،

many companies have been trying to become less bureaucratic,

العديد من الشركات حاولت أن تصبح أقل بيروقراطية،

to have fewer central rules and procedures,

بامتلاكها إجراءات وقواعد أساسية أقل،

more autonomy for their local teams to be more agile.

واستقلالية أكبر لفرقهم ليصبحوا أكثر مرونة.

And now they are pushing artificial intelligence, AI,

والآن أطلقوا العنان للذكاء الاصطناعي،

unaware that cool technology

غير مدركين أن تلك التقنية الرائعة،

might make them more bureaucratic than ever.

قد تجعلهم أكثر بيروقراطية أكثر من أي وقت سبق.

Why?

لماذا؟

Because AI operates just like bureaucracies.

لأن الذكاء الاصطناعي يعمل مثل البيروقراطيات،

The essence of bureaucracy

حيث يكمن جوهر البيروقراطية

is to favor rules and procedures over human judgment.

في تفضيل القواعد والإجراءات على التقييم البشري.

And AI decides solely based on rules.

ويعتمد الذكاء الاصطناعي على القواعد فحسب.

Many rules inferred from past data

العديد من القواعد مبنية على بيانات قديمة،

but only rules.

لكنها مجرد قواعد.

And if human judgment is not kept in the loop,

ولو استبعد التقييم البشري خارج هذه الاستنتاجات،

AI will bring a terrifying form of new bureaucracy --

فإن الذكاء الاصطناعي سيجلب شكلاً مرعباً من البيروقراطية الجديدة -

I call it "algocracy" --

أدعوه "الجوقراطية" -

where AI will take more and more critical decisions by the rules

حيث سيتخذ الذكاء الاصطناعي المزيد والمزيد من القرارات الحاسمة وفق القواعد،

outside of any human control.

بعيداً عن رقابة التقييم البشري.

Is there a real risk?

هل هذا خطر حقيقي؟

Yes.

أجل.

I'm leading a team of 800 AI specialists.

أنا أدير فريقا مكونا من 800 متخصص في الذكاء الاصطناعي.

We have deployed over 100 customized AI solutions

نشرنا ما يفوق 100 من الحلول المصممة خصيصا للذكاء الاصطناعي،

for large companies around the world.

للشركات الكبيرة حول العالم.

And I see too many corporate executives behaving like bureaucrats from the past.

رأيت العديد من مديري الشركات يتصرفون كبيروقراطيين من الماضي

They want to take costly, old-fashioned humans out of the loop

باستبعادهم الطراز البشري القديم المُكلف خارج دائرة القيادة،

and rely only upon AI to take decisions.

والاعتماد على الذكاء الاصطناعي فقط في اتخاذ القرارات.

I call this the "human-zero mindset."

أسمي ذلك "انعدام العقلية البشرية."

And why is it so tempting?

ولماذا هذا الأمر مغري جداً؟

Because the other route, "Human plus AI," is long,

لأن الخيار الآخر، "الإنسان زائد الذكاء الاصطناعي"،

costly and difficult.

طويل وباهظ الثمن وصعب.

Business teams, tech teams, data-science teams

إن فرق إدارة الأعمال وفرق التكنولوجيا وفرق علم البيانات،

have to iterate for months

لا بد أن يكرروا لشهور،

to craft exactly how humans and AI can best work together.

لصوغ كيف يمكن للإنسان والذكاء الاصطناعي أن يعملا بشكل أفضل معاً،

Long, costly and difficult.

طويل وباهظ الثمن وصعب.

But the reward is huge.

لكن النتيجة مذهلة.

A recent survey from BCG and MIT

أجريت دراسة مؤخراً من BCG وMIT

shows that 18 percent of companies in the world

أوضحت أن: 18% من الشركات في العالم،

are pioneering AI,

من رواد الذكاء الاصطناعي،

making money with it.

تجني المال من خلاله.

Those companies focus 80 percent of their AI initiatives

تركز تلك الشركات في مبادراتها للذكاء الاصطناعي بنسبة 80%،

on effectiveness and growth,

على الفاعلية والتقدم.

taking better decisions --

آخذة بعين الاعتبار خيارات أفضل،

not replacing humans with AI to save costs.

عدم استبدال البشر بالذكاء الاصطناعي لتوفير النفقات.

Why is it important to keep humans in the loop?

لماذا من المهم أن يبقى البشر ضمن دائرة اتخاذ القرار؟

Simply because, left alone, AI can do very dumb things.

ببساطة، لأن الذكاء الاصطناعي بمفرده يرتكب أشياء غبية.

Sometimes with no consequences, like in this tweet.

أحياناً دون أي عواقب، كما في هذه التغريدة.

"Dear Amazon,

"عزيزي أمازون،

I bought a toilet seat.

فمت بشراء مقعد مرحاض.

Necessity, not desire.

ضرورة، لا رغبة.

I do not collect them,

لم أقم باستلامهم،

I'm not a toilet-seat addict.

لست مدمن كرسي حمام.

No matter how temptingly you email me,

لا يهم بأي طريقة راسلتني على البريد الإلكتروني،

I am not going to think, 'Oh, go on, then,

لن أقوم بالتفكير، صحيح، هيا، ثم،

one more toilet seat, I'll treat myself.' "

مقعد مرحاض إضافي، سأكافئ نفسي."

(Laughter)

(ضحك)

Sometimes, with more consequence, like in this other tweet.

أحياناً، دون أي عواقب، كما في هذه التغريدة أيضاً،

"Had the same situation

"يكون لدينا نفس الوضع،

with my mother's burial urn."

بما يتعلق بقبر والدتي."

(Laughter)

(ضحك)

"For months after her death,

بعد أشهر من وفاتها،

I got messages from Amazon, saying, 'If you liked that ...' "

استلمت رسالة من موقع أمازون، تقول "إذا أعجبك ذلك... "

(Laughter)

(ضحك)

Sometimes with worse consequences.

وأحياناً مع عواقب أسوأ من ذلك.

Take an AI engine rejecting a student application for university.

حين يكون الذكاء الاصطناعي، بمثابة أداة رفض لطلبات طلاب الجامعة.

Why?

لماذا؟

Because it has "learned," on past data,

لأن قراراته مكتسبة من بيانات قديمة،

characteristics of students that will pass and fail.

لخصائص الطلاب التي سوف يتجاوزها ويقرر فشلها.

Some are obvious, like GPAs.

بعضها يكون بديهي، كما في حال المعدلات.

But if, in the past, all students from a given postal code have failed,

ولكن ماذا لو كان جميع الطلاب ذوي الرمز البريدي قد فشلوا سابقاً،

it is very likely that AI will make this a rule

فعلى الأرجح سيتخذ الذكاء الاصطناعي ذلك قاعدة له،

and will reject every student with this postal code,

وسيقوم برفض أي طالب مع هذا الرمز البريدي،

not giving anyone the opportunity to prove the rule wrong.

مع عدم إعطاء أي شخص فرصة ليثبت خطأ هذه القاعدة.

And no one can check all the rules,

وتفقد جميع القواعد ليس بقدرة أحد،

because advanced AI is constantly learning.

لأن الذكاء الاصطناعي يتعلم بصورة مستمرة.

And if humans are kept out of the room,

وإذا تم استبعاد اليد البشرية من دائرة القيادة،

there comes the algocratic nightmare.

سيأتي كابوس الجوقراطية.

Who is accountable for rejecting the student?

من هو المسؤول عن رفض الطلاب؟

No one, AI did.

لا أحد، غير الذكاء الاصطناعي.

Is it fair? Yes.

هل هذا منصف للجميع؟ نعم.

The same set of objective rules has been applied to everyone.

فإن هذه القواعد الموضوعية تم تطبيقها على الجميع.

Could we reconsider for this bright kid with the wrong postal code?

هل يمكننا إعادة النظر بشأن الطلاب مع خطأ الرمز البريدي؟

No, algos don't change their mind.

لا، فالجوقراطي لا يغير رأيه.

We have a choice here.

يكون لنا الخيار هنا.

Carry on with algocracy

نستمر بمنهج الجوقراطية،

or decide to go to "Human plus AI."

أو نتبع منهج "الإنسان زائد الذكاء الإصطناعي."

And to do this,

ولتحقيق ذلك،

we need to stop thinking tech first,

علينا أولاً إيقاف التفكير التقني،

and we need to start applying the secret formula.

والبدء بتطبيق المعادلة السرية.

To deploy "Human plus AI,"

لنشر "البشر + الذكاء الاصطناعي"،

10 percent of the effort is to code algos;

10% من الجهود موجهة لتشفير الجوقراطي،

20 percent to build tech around the algos,

و20% لبناء التقنية حول الجوقراطي،

collecting data, building UI, integrating into legacy systems;

جمع البيانات، بناء واجهة مستخدم، دمج في النظم القديمة.

But 70 percent, the bulk of the effort,

ولكن مجمل هذه الجهود، بنسبة 70%،

is about weaving together AI with people and processes

هي جمع الذكاء الاصطناعي مع البشر والإجراءات،

to maximize real outcome.

لزيادة تحقيق نتيجة حقيقية.

AI fails when cutting short on the 70 percent.

يخفق الذكاء الاصطناعي عندما نوقف مسيرة هذه الـ 70%

The price tag for that can be small,

يمكن أن يكون الثمن لذلك قليل،

wasting many, many millions of dollars on useless technology.

دون هدر العديد من ملايين الدولارات على هذه التقنية غير المجدية.

Anyone cares?

من يهتم؟

Or real tragedies:

المآسي الكبرى:

346 casualties in the recent crashes of two B-737 aircrafts

مؤخراً، 346 ضحية بسبب تصادم طائرتين من طراز B-737.

when pilots could not interact properly

حيث لم يتعامل الطيارون كما ينبغي،

with a computerized command system.

مع نظام القيادة الحاسوبي.

For a successful 70 percent,

لنجاح نسبة 70% من المعادلة،

the first step is to make sure that algos are coded by data scientists

الخطوة الأولى هي التأكد من تشفير الجوقراطي من قبل عالم بيانات،

and domain experts together.

وأن خبراء المجال يعملون معاً.

Take health care for example.

خذ العناية الصحية كمثال،

One of our teams worked on a new drug with a slight problem.

عمل أحد فرقنا على عقار جديد وواجهتهم مشكلة طفيفة،

When taking their first dose,

عندما يأخذ المرضى جرعتهم الأولى،

some patients, very few, have heart attacks.

تتعرض قلة قليلة منهم لنوبة قلبية.

So, all patients, when taking their first dose,

لذلك، جميع المرضى عند أخذهم الجرعة الأولى،

have to spend one day in hospital,

مضطرون للبقاء يوماً كاملاً في المشفى،

for monitoring, just in case.

ليبقوا تحت المراقبة، تحسباً،

Our objective was to identify patients who were at zero risk of heart attacks,

لتحديد المرضى الآمنين من التعرض لنوبات قلبية،

who could skip the day in hospital.

وغير المضطرين للبقاء تحت المراقبة.

We used AI to analyze data from clinical trials,

استعملنا الذكاء الاصطناعي لتحليل البيانات من التجارب الدوائية،

to correlate ECG signal, blood composition, biomarkers,

للربط بين التخطيط الكهربائي للقلب، قوام الدم والمؤشرات الحيوية،

with the risk of heart attack.

مع احتمال حدوث نوبة قلبية.

In one month,

خلال شهر واحد،

our model could flag 62 percent of patients at zero risk.

أفاد نموذجنا أن 62% من المرضى في أمان،

They could skip the day in hospital.

وبإمكانهم تخطي البقاء تحت المراقبة.

Would you be comfortable staying at home for your first dose

قد يكون من المريح البقاء في المنزل بعد الجرعة الأولى.

if the algo said so?

لو قرر الجوقراطي ذلك؟

(Laughter)

(ضحك)

Doctors were not.

سيكون للأطباء رأي آخر.

What if we had false negatives,

ماذا لو كانت هذه النتائج زائفة،

meaning people who are told by AI they can stay at home, and die?

معنى ذلك موت المرضى الذين بقوا في بيوتهم.

(Laughter)

(ضحك)

There started our 70 percent.

لنبدأ بتحقيق نسبتنا البناءة،

We worked with a team of doctors

عملنا مع فريق من الأطباء،

to check the medical logic of each variable in our model.

لتفقد الأساس المنطقي الطبي لكل متغير في نموذج دراستنا.

For instance, we were using the concentration of a liver enzyme

على سبيل المثال، استخدام تركيز إنزيم الكبد

as a predictor,

كمؤشر،

for which the medical logic was not obvious.

بشأن الأساس المنطقي الطبي الغير واضح.

The statistical signal was quite strong.

كانت الإشارات الإحصائية قوية للغاية.

But what if it was a bias in our sample?

ولكن ماذا إن كان هناك انحياز في العينة الخاصة بنا؟

That predictor was taken out of the model.

سيُلغى ذلك المؤشر من نموذج الدراسة.

We also took out predictors for which experts told us

ونلغي المؤشرات المحصلة من الخبراء،

they cannot be rigorously measured by doctors in real life.

فلا نعتبرهم مقياساً دقيقاً في الواقع.

After four months,

بعد مرور أربعة أشهر،

we had a model and a medical protocol.

أصبح لدينا نموذج وبروتوكول طبي.

They both got approved

تمت الموافقة على كلاهما،

my medical authorities in the US last spring,

من قبل سلطاتي الطبية في الولايات الأمريكية الربيع الماضي،

resulting in far less stress for half of the patients

مما يؤدي لتقليل الضغط عند نصف المرضى،

and better quality of life.

ونوعية حياة أفضل.

And an expected upside on sales over 100 million for that drug.

من المتوقع زيادة في مبيعات ذلك الدواء بما يفوق 100مليون.

Seventy percent weaving AI with team and processes

تلك الـ 70% الهادفة لجمع الذكاء الاصطناعي مع الفريق والإجراءات،

also means building powerful interfaces

تعادل أيضاً بناء روابط وثيقة،

for humans and AI to solve the most difficult problems together.

بين البشر والذكاء الاصطناعي لحل أصعب العقبات بالعمل المشترك بينهما.

Once, we got challenged by a fashion retailer.

سابقاً، واجهنا تحدياً من قبل تاجر تجزئة للألبسة.

"We have the best buyers in the world.

"لدينا أفضل زبائن في العالم.

Could you build an AI engine that would beat them at forecasting sales?

هل تستطيع إنشاء قاعدة للذكاء الاصطناعي تتغلب على توقعات المبيعات؟

At telling how many high-end, light-green, men XL shirts

بتوقع كم من قمصان الرجال الفاخرة باللون الأخضر الفاتح، مقاس إكس لارج

we need to buy for next year?

علينا توفيرها للسنة القادمة؟

At predicting better what will sell or not

وإنشاء توقع أفضل للمبيعات،

than our designers."

من توقعات مصممينا."

Our team trained a model in a few weeks, on past sales data,

خلال أسابيع قليلة، أنشأ فريقنا نموذج بناء على معطيات المبيعات السابقة،

and the competition was organized with human buyers.

بدأت منافسة تم تنظيمها مع الزبائن،

Result?

والنتيجة؟

AI wins, reducing forecasting errors by 25 percent.

فوز الذكاء الاصطناعي، بتقليل أخطاء التوقعات بنسبة 25%.

Human-zero champions could have tried to implement this initial model

لا يوجد أي بشري قادراً على تنفيذ هذا النموذج الأولي

and create a fight with all human buyers.

ومنافسة جميع الزبائن.

Have fun.

لا بأس.

But we knew that human buyers had insights on fashion trends

ولكن نحن نعلم أن الزبائن لهم آراء حول اتجاهات الموضة،

that could not be found in past data.

التي لا توجد في المعطيات القديمة.

There started our 70 percent.

هنا تبدأ الـ 70% من خطتنا.

We went for a second test,

ننتقل إلى التجربة الثانية،

where human buyers were reviewing quantities

حيث قام الزبائن بمراجعة الكميات

suggested by AI

المقترحة من قبل الذكاء الاصطناعي،

and could correct them if needed.

وتصحيحها إذا لزم الأمر.

Result?

والنتيجة؟

Humans using AI ...

يستخدم البشر الذكاء الاصطناعي...

lose.

يخسر.

Seventy-five percent of the corrections made by a human

يفتقر 75% من التعديلات المدخلة من قبل البشر،

were reducing accuracy.

إلى دقة الوصف.

Was it time to get rid of human buyers?

هل هذا وقت التخلص من دور الزبائن؟

No.

لا.

It was time to recreate a model

إنه وقت إعادة إنشاء نموذج جديد،

where humans would not try to guess when AI is wrong,

ينص على عدم محاولة البشر بالتخمين متى يكون الذكاء الاصطناعي مخطئاً،

but where AI would take real input from human buyers.

بل بإدخال معطيات صحيحة في نموذج الذكاء الاصطناعي.

We fully rebuilt the model

أعدنا إنشاء النموذج بشكل كامل،

and went away from our initial interface, which was, more or less,

وابتعدنا عن واجهتنا الأولية مهما كانت قليلة أو كثيرة،

"Hey, human! This is what I forecast,

أيها البشر، هذا هو ما أتوقعه،

correct whatever you want,"

صحح ما تريد،

and moved to a much richer one, more like,

بالأحرى، تحول لأغنى رجل بالعالم،

"Hey, humans!

"أيها الإنسان!

I don't know the trends for next year.

أنا لا أعرف اتجاهات السنة القادمة.

Could you share with me your top creative bets?"

هل تشاركني بقمة رهاناتك الخلاقة؟

"Hey, humans!

"أيها الإنسان!

Could you help me quantify those few big items?

هل تساعدني بقياس مقدار القليل من تلك البنود الكبيرة؟

I cannot find any good comparables in the past for them."

لم أجد أشياء قيمة لمقارنتها معها في السابق.

Result?

والنتيجة؟

"Human plus AI" wins,

فوز "البشر زائد الذكاء الإصطناعي"،

reducing forecast errors by 50 percent.

بتقليل أخطاء التوقعات بنسبة 50%.

It took one year to finalize the tool.

استغرق الأمر سنة واحدة.

Long, costly and difficult.

طويل وباهظ الثمن وصعب.

But profits and benefits

لكن الأرباح والفوائد،

were in excess of 100 million of savings per year for that retailer.

كانت بتوفير ما يزيد على 100 مليون في السنة لبائع التجزئة ذاك،

Seventy percent on very sensitive topics

%70 من المواضيع الشديدة الحساسية،

also means human have to decide what is right or wrong

تعني أن الإنسان يحدد ما هو الصواب أو الخطأ،

and define rules for what AI can do or not,

ويحدد القواعد التي يستطيع الذكاء الاصطناعي استيعابها أم لا،

like setting caps on prices to prevent pricing engines

مثل، ضبط الأسعار المرتفعة لمنع محركات الأسعار

[from charging] outrageously high prices to uneducated customers

[من فرض رسوم] أسعار باهظة للعملاء غير المتعلمين

who would accept them.

من سيصدق ذلك؟

Only humans can define those boundaries --

فقط الإنسان يمكنه أن يحدد هذه الحدود الفاصلة،

there is no way AI can find them in past data.

لا يمكن للذكاء الاصطناعي إيجادها في البيانات القديمة،

Some situations are in the gray zone.

بعض الحالات تكون في المنطقة الرمادية،

We worked with a health insurer.

عملنا مع التأمين الصحي،

He developed an AI engine to identify, among his clients,

طور قواعد في الذكاء الاصطناعي ليحدد من ضمن عملائه،

people who are just about to go to hospital

الأشخاص الذين على وشك الدخول إلى المشفى،

to sell them premium services.

لتوفير خدمات متميزة لهم،

And the problem is,

المشكلة أن،

some prospects were called by the commercial team

استدعى الفريق التجاري بعض الاحتمالات،

while they did not know yet

في حين أنهم لم يعرفوا بعد،

they would have to go to hospital very soon.

بأنه ستعين عليهم أن يذهبوا للمشفى بأقرب وقت.

You are the CEO of this company.

أنت المدير التنفيذي لهذه الشركة.

Do you stop that program?

هلا أوقفت ذلك البرنامج؟

Not an easy question.

ليس من السهل الإجابة،

And to tackle this question, some companies are building teams,

لمعالجة هذا الأمر، أنشأت بعض الشركات فرقاً

defining ethical rules and standards to help business and tech teams set limits

لتحديد قواعد أخلاقية ومعايير لمساعدة فرق الأعمال والتقنيين لوضع حدود،

between personalization and manipulation,

بين إضفاء الطابع الشخصي والاستغلال،

customization of offers and discrimination,

تخصيص العروض وممارسة التمييز،

targeting and intrusion.

التوجيه والإقحام.

I am convinced that in every company,

أنا على ثقة أنه في كل شركة،

applying AI where it really matters has massive payback.

تطبق الذكاء الاصطناعي البالغ الأهمية يكون لديها مردود هائل.

Business leaders need to be bold

يلزم كبار رجال الأعمال التحلي بالجرأة

and select a few topics,

واختيارهم القليل من المواضيع،

and for each of them, mobilize 10, 20, 30 people from their best teams --

ولكل واحد منهم، حشد 10، 20، 30 شخصاً من أفضل فرقهم،

tech, AI, data science, ethics --

التقنية، الذكاء الاصطناعي، علم البيانات، الأخلاقيات،

and go through the full 10-, 20-, 70-percent cycle

والخوض في دائرة 10، 20، 70% بأكملها

of "Human plus AI,"

من "البشر زائد الذكاء الاصطناعي"،

if they want to land AI effectively in their teams and processes.

لضمان فاعلية الذكاء الاصطناعي في فرقهم وإجراءاتهم.

There is no other way.

لا يوجد سبل أخرى.

Citizens in developed economies already fear algocracy.

يخشى المواطنون في الاقتصادات المتقدمة من الجوقراطية بالفعل.

Seven thousand were interviewed in a recent survey.

أجرينا مقابلات مع 7000 شخص في دراسة استثنائية حديثة.

More than 75 percent expressed real concerns

عبر ما يزيد عن 75% عن قلق حقيقي،

on the impact of AI on the workforce, on privacy,

حيال أثر الذكاء الاصطناعي على القوى العاملة في مجال الخصوصية،

on the risk of a dehumanized society.

خطر قيام مجتمع غير إنساني.

Pushing algocracy creates a real risk of severe backlash against AI

إن دفع الجوقراطية يخلق خطرا حقيقيا من ردود الفعل العنيفة ضد الذكاء الاصطناعي

within companies or in society at large.

داخل الشركات أو في المجتمع ككل.

"Human plus AI" is our only option

"البشر زائد الذكاء الاصطناعي" هو خيارنا الوحيد

to bring the benefits of AI to the real world.

لجلب فوائد الذكاء الاصطناعي لعالمنا.

And in the end,

وفي نهاية المطاف،

winning organizations will invest in human knowledge,

فإن المنظمات الفائزة ستستثمر في المعرفة البشرية،

not just AI and data.

ليس فقط الذكاء الاصطناعي والبيانات.

Recruiting, training, rewarding human experts.

توظيف، تدريب، استعانة بخبراء بشر.

Data is said to be the new oil,

ويقال إن البيانات هي النفط الجديد،

but believe me, human knowledge will make the difference,

ولكن صدقوني، ستحدث المعرفة البشرية الفرق

because it is the only derrick available

لأنها الخيار الوحيد المتاح

to pump the oil hidden in the data.

لضخ النفط الكامن في البيانات.

Thank you.

شكرا لكم.

(Applause)

(تصفيق)