5 Ethical Principles for Digitizing Humanitarian Aid | Aarathi Krishnan | TED

المترجم: Ayman Hosny المدقّق: Shimaa Nabil

Sociologist Zeynep Tufekci once said

قالت عالمة الاجتماع، زينب توفكتشي، ذات مرة

that history is full of massive examples

إن التاريخ مليء بأمثلة جمة

of harm caused by people with great power

من الأذى الناجم عن أصحاب القوة الكبيرة

who felt that just because they felt themselves to have good intentions,

الذين يؤمنون بذلك فقط لأنهم يشعرون بأن نياتهم حسنة،

that they could not cause harm.

على نحو ما من شأنه ألّا يحدثوا أذى.

In 2017,

في العام 2017،

Rohingya refugees started to flee Myanmar into Bangladesh

بدأ اللاجئون الروهينغا في الهروب من ماينمار إلى بنغلاديش

due to a crackdown by the Myanmar military,

بعد الحملة عليهم من القوة العسكرية في ماينمار

an act that the UN subsequently called of genocidal intent.

وهو ما دعته الأمم المتحدة بالإبادة الجماعية.

As they started to arrive into camps,

حين بدأوا يتوافدون على المعسكرات،

they had to register for a range of services.

كان عليهم أن يسجلوا من أجل حزمة من الخدمات.

One of this was to register

كان منها

for a government-backed digital biometric identification card.

التسجيل بدعم حكومي من أجل بطاقة الهوية الرقمية (البيومترية).

They weren't actually given the option to opt out.

لقد كانت إلزامية تمامًا دون أن يعطوا الخيار لها.

In 2021, Human Rights Watch accused international humanitarian agencies

في 2021، قالت منظمة هيومن رايتس ووتش أن وكالات الإغاثة الدولية

of sharing improperly collected information about Rohingya refugees

تشارك معلومات جمعت بطريقة غير شرعية عن اللاجئين الروهينغا

with the Myanmar government without appropriate consent.

مع حكومة ماينمار دون موافقة منهم.

The information shared didn't just contain biometrics.

لم تحتوِ المعلومات عناصر الهوية فقط.

It contained information about family makeup, relatives overseas,

إنما حَوَت معلومات عن العائلة، والأقارب المستقرين في الخارج

where they were originally from.

في الأمكان التي ترعرعروا فيها.

Sparking fears of retaliation by the Myanmar government,

وانتشر الخوف من الانتقام وسط ممارسات حكومة ماينمار،

some went into hiding.

فقد اختفى البعض.

Targeted identification of persecuted peoples

إن استهداف الهوية للفئات المضطهدة

has long been a tactic of genocidal regimes.

لطالما كان دأب أنظمة الإبادة الجماعية.

But now that data is digitized, meaning it is faster to access,

لكن الآن، باتت البيانات مرقمنة بما يعني إمكانية أسرع للمعالجة،

quicker to scale and more readily accessible.

وتقدير أسرع، ووفرة أكبر في إمكانية الوصول لها.

This was a failure on a multitude of fronts:

لقد شكّل هذا فشلًا على أكثر من صعيد:

institutional, governance, moral.

المبادئ الأساسية، الحوكمة، الأخلاق.

I have spent 15 years of my career working in humanitarian aid.

لقد قضيت أكثر من 15 سنة في مساري الوظيفي عاملةً في مجال المساعدات الإنسانية.

From Rwanda to Afghanistan.

من روندا إلى أفغانستان.

What is humanitarian aid, you might ask?

أي نوع من الإغاثة الإنسانية، ربما تسألون عنه؟

In its simplest terms, it's the provision of emergency care

في معانيه البسيطة، إنه تقديم العناية العاجلة

to those that need it the most at desperate times.

إلى أولئك الذين في حاجةٍ إليها عندما تتقطع بهم السبل.

Post-disaster, during a crisis. Food, water, shelter.

ما بعد كارثة، أو في خلال أزمة. المأكل، والمشرب، والمأوى.

I have worked within very large humanitarian organizations,

لقد عملت عبر كثير جدًا من المنظمات الإنسانية

whether that's leading multicountry global programs

بما فيها تلك التي تقود برامج عالمية عابرة للدول

to designing drone innovations for disaster management

لتصميم مسيّرات مبتكرة خصيصًا لإدارة الكوارث

across small island states.

عبر الدول التي تتشكل من جزر صغيرة.

I have sat with communities in the most fragile of contexts,

لقد تواجدت بين مجتمعات في ظروف حرجة للغاية،

where conversations about the future are the first ones they've ever had.

حيث يكون الكلام حول المستقبل هو الشغل الشاغل والدائم لها.

And I have designed global strategies to prepare humanitarian organizations

ولقد صممت خططًا عالمية لتجهيز المنظمات الإنسانية

for these same futures.

لمآلات مثل هذه.

And the one thing I can say

وما يمكن أن أقوله

is that humanitarians, we have embraced digitalization

أن المساعدات الإنسانية التي يجري رقمنتها بإيمان وثيق

at an incredible speed over the last decade,

بسرعة مذهلة على مدار العقد الأخير،

moving from tents and water cans,

وتتخلل المخيمات وزجاجات المياه،

which we still use, by the way,

التي ما نزال نستخدمها، على أي حال،

to AI, big data, drones, biometrics.

وصولا إلى الذكاء الاصطناعي، وتقنية البيانات الضخمة، والمسيرات، وبصمة الهوية.

These might seem relevant, logical, needed,

ويبدو هذا منطقيًا وواقعيًا ووثيق الصلة،

even sexy to technology enthusiasts.

وحتى المحفزات الجنسانية والتقنية.

But what it actually is, is the deployment of untested technologies

لكن ما الذي يعنيه حقيقةً، نشر تقنيات غير مختبرة

on vulnerable populations without appropriate consent.

على شعوب هشة من دون قبول مناسب منها.

And this gives me pause.

وهذا دفعني إلى التوقف.

I pause because the agonies we are facing today

لقد توقفت لأن النزاعات التي نواجهها اليوم

as a global humanity

كعالم إنساني

didn't just happen overnight.

لم تنشب بين عشية وضحاها.

They happened as a result of our shared history of colonialism

لكنها نشبت كنتيجة لتاريخنا الاستعماري المشترك

and humanitarian technology innovations are inherently colonial,

وكذلك فإن مبتكراتنا التقنية الإغاثية هي استعمارية المصدر،

often designed for and in the good of groups of people

رغم أنها صُممت من أجل الإغاثة، وهي بيد مجموعات خيّرة من الناس

seen as outside of technology themselves,

وينظر إليهم على أنهم غير تقنيين،

and often not legitimately recognized

ولا يُستهدَفون بطريقة غير شرعية

as being able to provide for their own solutions.

باعتبار أنهم قادرون على إعطاء الحلول.

And so, as a humanitarian myself, I ask this question:

وباعتبار أنني إغاثية، سألت نفسي هذا السؤال:

in our quest to do good in the world,

في مسعانا لفعل الخير في العالم،

how can we ensure that we do not lock people into future harm,

كيف لنا أن نتأكد أننا لا نُلقي بأناس إلى مصير مؤذٍ

future indebtedness and future inequity as a result of these actions?

مصير مثقل بالأعباء وشرير؛ كأثر لمثل تلك الأفعال؟

It is why I now study the ethics of humanitarian tech innovation.

وهو ما دعاني إلى دراسة المبادئ الأخلاقية في تقنيات الإغاثة.

And this isn't just an intellectually curious pursuit.

إن ذلك ليس مسعًى نظريًا فقط.

It's a deeply personal one.

إنه هدف شخصي عميق.

Driven by the belief that it is often people that look like me,

دافعه الإيمان بأن أولئك الناس هم مثلي تمامًا،

that come from the communities I come from,

جاؤوا من ذات المجتمعات التي أنتمي إليها،

historically excluded and marginalized,

ولكن جرى الفصل بيننا بمرور التاريخ،

that are often spoken on behalf of

هم الذين غالبًا ما نتحدث بالنيابة عنهم

and denied voice in terms of the choices

ونكتم أصواتهم بدعوى

available to us for our future.

أن علينا تحديد خيارات مستقبلهم.

As I stand here on the shoulders of all those that have come before me

أتواجد اليوم بينكم على هذا النصب بينما هناك من حضر قبلي

and in obligation for all of those that will come after me

وبالتزام إلى أولئك الذين سيحضرون بعدي

to say to you that good intentions alone do not prevent harm,

أن أقول إليكم إن النيات الحسنة وحدها لا تدفع الأذى،

and good intentions alone can cause harm.

بل إن النيات الحسنة وحدها من شأنها جلب الضرر.

I'm often asked, what do I see ahead of us in this next 21st century?

غالبًا ما أتساءل، ماذا نواجه في هذا القرن الحادي والعشرين؟

And if I had to sum it up:

ولو أن عليَّ أن أكثِف ذلك بالقول:

of deep uncertainty, a dying planet, distrust, pain.

وبشك عميق، كوكب يموت، عدم ثقة، ألم.

And in times of great volatility, we as human beings, we yearn for a balm.

وإننا في أوقات التقلبات العاصفة، فإن طبيعتنا كبشر، تطوق إلى مسكّن.

And digital futures are exactly that, a balm.

ومآلات المستقل الرقمي هي بالضبط كذلك، مجرد مسكنات.

We look at it in all of its possibility

إننا نبحث في كل احتمالاته

as if it could soothe all that ails us, like a logical inevitability.

كما لو كان من شأنه تلطيف الآلام وكحتمية منطقية.

In recent years, reports have started to flag

في السنين الأخيرة، عملت التقارير على إبراز

the new types of risks that are emerging about technology innovations.

أنواع جديدة من المخاطر الناجمة عن المبتكرات التقنية.

One of this is around how data collected on vulnerable individuals

واحد منها يدور حول كيف أن تجميع بيانات الأشخاص غير المحصنين

من شأنه أن يستخدم ضدهم انتقامًا منهم .

can actually be used against them as retaliation,

بما يخلق مخاطر جمّة ليس فقط لهم، ولكن لذويهم أيضًا،

posing greater risk not just against them, but against their families,

against their community.

ولمجتمعهم كذلك.

We saw these risks become a truth with the Rohingya.

لقد شاهدنا هذه المخاطر كحقيقة واجهت الروهينغا.

And very, very recently, in August 2021, as Afghanistan fell to the Taliban,

وخلال هذه الآونة، في آب/أغسطس 2021، بينما تسقط أفغانستان بيد طالبان،

it also came to light that biometric data collected on Afghans

برز خبر تجميع الهوية الرقمية للأفغان

by the US military and the Afghan government

من قبل القوات الأمريكية، ومن قبل الحكومة الأفغانية

and used by a variety of actors

وجرى استخدامها بواسطة لاعبين شتى

were now in the hands of the Taliban.

بينما هي الآن بيد طالبان.

Journalists' houses were searched.

لقد جرى كشف ذلك من خلال الصحافة.

Afghans desperately raced against time to erase their digital history online.

وقد هرع الأفغان كل على حدة إلى مسح الذاكرة الرقمية على شبكة الإنترنت.

Technologies of empowerment then become technologies of disempowerment.

لقد كانت تقنيات للتمكين والتقوية ثم صارت تقنيات مسببة للضعف.

It is because these technologies

وسبب ذلك أن هذه التقنيات

are designed on a certain set of societal assumptions,

إنما صُممت بناء على مفترضات مجتمعية واقعية

embedded in market and then filtered through capitalist considerations.

وقد جرى دمجها في السوق ومن ثم جرى تقسيمها على أساس محددات رأسمالية.

But technologies created in one context and then parachuted into another

لقد انتجت التقنيات في سياق واحد ثم تماهت في سياق آخر

will always fail

سوف يفشل دائمًا

because it is based on assumptions of how people lead their lives.

لأنه يتأسس على فرضيات تتعلق بكيفية عيش الناس.

And whilst here, you and I may be relatively comfortable

وبينما نحن هنا، أنا وأنت، قد يكون من المريح نسبيًا

providing a fingertip scan to perhaps go to the movies,

عند إجراء مسح البصمة لدخول السينما لمشاهدة أفلام،

we cannot extrapolate that out to the level of safety one would feel

بينما لا يمكننا مقارنة ذلك بمستوى الأمان الذي يشعر المرؤ به

while standing in line,

عند اصطفافه في الطابور،

having to give up that little bit of data about themselves

مضطرًا لأن يتنازل عن بعض من بياناته

in order to access food rations.

من أجل الحصول على حصة من الطعام.

Humanitarians assume that technology will liberate humanity,

لقد افترض الإغاثيون أن التقنية ستحرر البشرية،

but without any due consideration of issues of power, exploitation and harm

لكن دون أن يأخذوا في اعتبارهم قضايا السلطة، والاستغلال، وإلحاق الأذى

that can occur for this to happen.

التي يمكن أن تحدث.

Instead, we rush to solutionizing,

في المقابل، فقد هرعنا لتوفير

a form of magical thinking

حل سحري

that assumes that just by deploying shiny solutions,

الذي يفترض أن من شأن نشر الحلول البرّاقة،

we can solve the problem in front of us

معالجة المشكلة التي تواجهنا

without any real analysis of underlying realities.

دون أي تحليل واقعي لأيٍ من الحقائق البارزة.

These are tools at the end of the day,

هذه أدوات نهاية اليوم،

and tools, like a chef's knife,

أدواتُ كما سكّين في يد طاهٍ،

in the hands of some, the creator of a beautiful meal,

أداة في يد معدّ وجبة جميلة،

and in the hands of others, devastation.

وفي يد البعض الآخر، هي أداة للتدمير.

So how do we ensure that we do not design

ولذا، كيف لنا أن نحول دون تصميم

the inequities of our past into our digital futures?

الظلم الذي تعرضنا له في الماضي ليكون ضمن مآلات مستقبلنا الرقمي؟

And I want to be clear about one thing.

وهنا أريد أن أكون واضحة في الحديث عن شيء واحد.

I'm not anti-tech. I am anti-dumb tech.

أنا لست ضد التقنية. أنا لست بغباء أن أكون ضد التقنية.

(Laughter)

(ضحك)

(Applause)

(تصفيق)

The limited imaginings of the few

لا ينبغي أن يستولى الخيال المحدود للقلة

should not colonize the radical re-imaginings of the many.

على الخيال الطبيعي للأكثرية.

So how then do we ensure that we design an ethical baseline,

وعليه، كيف لنا أن نضمن تصميم قاعدة أخلاقية،

so that the liberation that this promises is not just for a privileged few,

ليكون التحرر غير مقصور على فئة قليلة من الناس،

but for all of us?

بل يكون لنا جميعًا.

There are a few examples that can point to a way forward.

هنالك عدد من الأمثلة، بمقدورها أن تمضي بنا قدمًا.

I love the work of Indigenous AI

أنا أفضل العمل الطبيعي للذكاء الاصطناعي

that instead of drawing from Western values and philosophies,

عن ذلك المبرمَج على أسس القيم والفلسفة الغربية،

it draws from Indigenous protocols and values

ذلك الذي يُستلهَم من قيم وسلوكيات السكان الأصليين

to embed into AI code.

ليدمج في شفرات الذكاء الاصطناعي.

I also really love the work of Nia Tero,

وأحب أيضًا نشاط “نايا تيرو،”

an Indigenous co-led organization that works with Indigenous communities

وهي منظمة مشتركة من السكان الأصليين وتعمل مع مجتمعاتهم

to map their own well-being and territories

لرسم خريطة لرفاهيتهم وأقاليمهم

as opposed to other people coming in to do it on their behalf.

على عكس الآخرين الذين يأتون للقيام بذلك بالنيابة عنهم.

I've learned a lot from the Satellite Sentinel Project back in 2010,

ولقد تعلمت كثيرًا من مشروع “ساتالايت سينتنل” في 2010،

which is a slightly different example.

الذي عبّر عن مثال آخر مختلف.

The project started essentially to map atrocities

وهو المشروع الذي جرى تكريسه لرسم خريطة الفظائع

through remote sensing technologies, satellites,

من خلال تقنيات الاستشعار عن بعد، التي تعمل بالأقمار الصناعية،

in order to be able to predict and potentially prevent them.

للتنبؤ بها ومن ثم إمكانية الحيلولة دون حدوثها.

Now the project wound down after a few years

الآن انتهت أعمال المشروع بعد عدة سنوات

for a variety of reasons,

وذلك لأسباب عدة،

one of which being that it couldn’t actually generate action.

واحد من هذه الأسباب، لم يكُن عدم تحقيق فعل.

But the second, and probably the most important,

ولكن السبب الثاني، وهو الأهم،

was that the team realized they were operating without an ethical net.

تمثّل في أن فريق العمل كان يدير العمليات دون قاعدة أخلاقية.

And without ethical guidelines in place,

وبدون قواعد أخلاقية في مكان العمل،

it was a very wide open line of questioning

يكون هناك مجال عريض للتساؤل

about whether what they were doing was helpful or harmful.

عما إذا كان ما يقومون به نافعًا أم ضارًا.

And so they decided to wind down before creating harm.

ولذلك قرروا أن ينهوا العمل فبل التسبب في إلحاق الأذى.

In the absence of legally binding ethical frameworks

وفي غياب الربط بإطارات عمل أخلاقية؛

to guide our work,

لتوجيه أعمالنا،

I have been working on a range of ethical principles

عكفت على وضع طيف واسع من المبادئ الأخلاقية

to help inform humanitarian tech innovation,

للمساعدة في إرشاد تقنية العمل الإنساني،

and I'd like to put forward a few of these here for you today.

وأودُ أن أطرح أمامكم بعضًا منها.

One: Ask.

رقم واحد: اسأل:

Which groups of humans will be harmed by this and when?

أي مجموعة من البشر سيلحقها الأذى جراء ذلك، ومتى؟

Assess: Who does this solution actually benefit?

قيِّم: من سينتفع حقًا من وراء هذا الحال؟

Interrogate: Was appropriate consent obtained from the end users?

حَلِل: هل سنحصل على موافقة مناسبة من آخِر مستخدمين؟

Consider: What must we gracefully exit out of

رتّب الأولويات: ماذا علينا أن نحصل من نتائج ممتازة

to be fit for these futures?

لتنسجم مع هذه المآلات من المستقبل؟

And imagine: What future good might we foreclose

ثم تخيّل: أي مستقبل جيد ننتظره

if we implemented this action today?

لو أننا قمنا بذلك اليوم؟

We are accountable for the futures that we create.

إننا مسؤولون عن مآلات المستقبل التي نصنعها الآن.

We cannot absolve ourselves of the responsibilities

وليس بمقدورنا التحلل من مسؤولياتنا

and accountabilities of our actions

وما يتوجب علينا القيام به

if our actions actually cause harm

إذا كانت أفعالنا تتسبب في أذى

to those that we purport to protect and serve.

لإولئك الذين نتوهّم أننا نحميهم ونساعدهم.

Another world is absolutely, radically possible.

إن عالمًا محافظًا على طابعه الأصيل لأمر ممكن تحقيقه.

Thank you.

شكرًا لكم.

(Applause)

(تصفيق)