5 Ethical Principles for Digitizing Humanitarian Aid | Aarathi Krishnan | TED

Traducteur: Kendehl Taylor Relecteur: Connor Mi

Sociologist Zeynep Tufekci once said

La sociologue Zeynep Tufekci a dit

that history is full of massive examples

que l’histoire est remplie d’exemples massifs

of harm caused by people with great power

des dommages causées par des gens au pouvoir élevé

who felt that just because they felt themselves to have good intentions,

qui pensaient que simplement parce qu’ils se sentaient d’avoir de bonnes intentions

that they could not cause harm.

qu’ils ne pouvaient pas causer de mal.

In 2017,

En 2017,

Rohingya refugees started to flee Myanmar into Bangladesh

les réfugiés rohingyas ont commencé à fuir la Birmanie au Bengladesh

due to a crackdown by the Myanmar military,

en raison d’une répression par l’armée birmane,

an act that the UN subsequently called of genocidal intent.

un acte que l’ONU a par la suite qualifié d’intention génocidaire.

As they started to arrive into camps,

Alors qu’ils commençaient à arriver dans les camps,

they had to register for a range of services.

ils devaient s’inscrire pour plusieurs services.

One of this was to register

L’une d’entre elles consistait à s’inscrire

for a government-backed digital biometric identification card.

à une carte d’identité biométrique numérique soutenu par le gouvernement.

They weren't actually given the option to opt out.

Ils n’ont en fait pas été donnés la possibilité de refuser.

In 2021, Human Rights Watch accused international humanitarian agencies

En 2021, Human Rights Watch a accusé les agences humanitaires internationales

of sharing improperly collected information about Rohingya refugees

de partager informations indûment collectées sur les réfugiés rohingyas

with the Myanmar government without appropriate consent.

auprès du gouvernement Birmanie sans consentement approprié.

The information shared didn't just contain biometrics.

Les informations partagées ne contenaient pas seulement des données biométriques.

It contained information about family makeup, relatives overseas,

Il contenait des informations sur la composition de la famille,

la famille d’outre-mer,

where they were originally from.

d’où ils étaient originaires.

Sparking fears of retaliation by the Myanmar government,

Susciter des craintes de représailles par le gouvernement birman,

some went into hiding.

certains se sont cachés.

Targeted identification of persecuted peoples

Identification ciblée des peuples persécutés

has long been a tactic of genocidal regimes.

a longtemps été une tactique des régimes génocidaires.

But now that data is digitized, meaning it is faster to access,

Mais maintenant

que les données sont numérisées elles sont plus rapidement accessibles,

quicker to scale and more readily accessible.

plus rapides à mettre à l’échelle et plus facilement accessible.

This was a failure on a multitude of fronts:

Ce fut un échec sur une multitude de fronts :

institutional, governance, moral.

institutionnel,

gouvernemental,

moral.

I have spent 15 years of my career working in humanitarian aid.

J’ai passé 15 ans de ma carrière à travailler dans l’aide humanitaire.

From Rwanda to Afghanistan.

Du Rwanda à l’Afghanistan.

What is humanitarian aid, you might ask?

C’est quoi l’aide humanitaire, vous vous demandez?

In its simplest terms, it's the provision of emergency care

Dans ses termes les plus simples,

il s’agit de la prestation de soins d’urgence

to those that need it the most at desperate times.

à ceux qui en ont le plus besoin à des moments désespérés.

Post-disaster, during a crisis. Food, water, shelter.

Post-catastrophe, pendant une crise.

Nourriture, eau, abri.

I have worked within very large humanitarian organizations,

j’ai travaillé au sein de très grandes organisations humanitaires,

whether that's leading multicountry global programs

en menant des programmes mondiaux multipays

to designing drone innovations for disaster management

à concevoir des drones innovants pour la gestion des catastrophes

across small island states.

dans les petits États insulaires.

I have sat with communities in the most fragile of contexts,

J’ai côtoyé des communautés dans les contextes les plus fragiles,

where conversations about the future are the first ones they've ever had.

où nos conversations sur l’avenir sont les premiers qu’ils aient jamais eus.

And I have designed global strategies to prepare humanitarian organizations

Et j’ai conçu des stratégies globales pour préparer les organisations humanitaires

for these same futures.

à ces mêmes futurs.

And the one thing I can say

Et la seule chose que je peux dire

is that humanitarians, we have embraced digitalization

c’est que les humanitaires, nous avons adopté la numérisation

at an incredible speed over the last decade,

à une vitesse incroyable au cours de la dernière décennie,

moving from tents and water cans,

sortant des tentes et des bidons d’eau,

which we still use, by the way,

que nous utilisons encore, au fait,

to AI, big data, drones, biometrics.

à l’IA, au big data, aux drones, à la biométrie.

These might seem relevant, logical, needed,

Ceux-ci peuvent sembler pertinents, logiques, nécessaires,

even sexy to technology enthusiasts.

voire sexy pour les passionnés de technologie.

But what it actually is, is the deployment of untested technologies

Mais ce qu’il en est réellement, c’est le déploiement de technologies non testées

on vulnerable populations without appropriate consent.

sur des populations vulnérables sans consentement approprié.

And this gives me pause.

Et cela me fait arrêter.

I pause because the agonies we are facing today

J’arrête parce que les agonies nous sommes confrontés aujourd’hui

as a global humanity

en tant qu’humanité mondiale

didn't just happen overnight.

ne se sont pas produites du jour au lendemain.

They happened as a result of our shared history of colonialism

Ils se sont produits à la suite de notre histoire commune de colonialisme

and humanitarian technology innovations are inherently colonial,

et les innovations technologiques humanitaires sont coloniales,

often designed for and in the good of groups of people

souvent conçues pour et pour le bien de groupes de personnes

seen as outside of technology themselves,

considérés comme extérieurs à la technologie eux-mêmes,

and often not legitimately recognized

et souvent non légitimement reconnus

as being able to provide for their own solutions.

comme étant capables de fournir leurs propres solutions.

And so, as a humanitarian myself, I ask this question:

Et donc, en tant qu’humanitaire moi-même, je pose cette question :

in our quest to do good in the world,

dans notre quête pour faire le bien dans le monde,

how can we ensure that we do not lock people into future harm,

comment pouvons-nous nous assurer que nous n’enfermons pas les gens

dans de futurs préjudices,

future indebtedness and future inequity as a result of these actions?

des dettes futures et des inégalités futures à la suite de ces actions ?

It is why I now study the ethics of humanitarian tech innovation.

C’est pourquoi j’étudie maintenant l’éthique

de l’innovation technologique humanitaire.

And this isn't just an intellectually curious pursuit.

Et ce n’est pas seulement une poursuite intellectuellement curieuse.

It's a deeply personal one.

C’est profondément personnel.

Driven by the belief that it is often people that look like me,

Poussé par la conviction que ce sont souvent les gens qui me ressemblent,

that come from the communities I come from,

qui viennent des communautés d’où je viens,

historically excluded and marginalized,

historiquement exclus et marginalisés,

that are often spoken on behalf of

qui sont souvent parlés au nom de

and denied voice in terms of the choices

et refusé la voix en termes des choix

available to us for our future.

qui s’offrent à nous pour notre avenir.

As I stand here on the shoulders of all those that have come before me

Alors que je me tiens ici sur les épaules de tous ceux qui sont venus avant moi

and in obligation for all of those that will come after me

et en obligation pour tous ceux qui viendront après moi

to say to you that good intentions alone do not prevent harm,

pour vous dire que les bonnes intentions seules n’empêchent pas le mal,

and good intentions alone can cause harm.

et que les bonnes intentions seules peuvent causer du mal.

I'm often asked, what do I see ahead of us in this next 21st century?

On me demande souvent,

qu’est-ce que je vois devant nous dans ce prochain 21ème siècle ?

And if I had to sum it up:

Et si je devais le résumer :

of deep uncertainty, a dying planet, distrust, pain.

d’incertitude profonde, d’une planète mourante, de méfiance, de douleur.

And in times of great volatility, we as human beings, we yearn for a balm.

Et en période de grande volatilité,

nous en tant qu’êtres humains, nous aspirons à un baume.

And digital futures are exactly that, a balm.

Et les futurs numériques sont exactement cela, un baume.

We look at it in all of its possibility

Nous le regardons dans toutes ses possibilités

as if it could soothe all that ails us, like a logical inevitability.

comme si elle pouvait apaiser tout ce qui nous afflige,

comme une fatalité logique.

In recent years, reports have started to flag

Ces dernières années, les rapports ont commencé à signaler

the new types of risks that are emerging about technology innovations.

les nouveaux types de risques qui émergent sur les innovations technologiques.

One of this is around how data collected on vulnerable individuals

L’un d’entre eux concerne

la manière dont les données sont collectées sur les personnes vulnérables

can actually be used against them as retaliation,

peut effectivement être utilisé contre elles en représailles,

posing greater risk not just against them, but against their families,

ce qui présente un risque accru non seulement contre elles,

mais aussi contre leurs familles,

against their community.

contre leur communauté.

We saw these risks become a truth with the Rohingya.

Nous avons vu ces risques devenir une réalité avec les Rohingyas.

And very, very recently, in August 2021, as Afghanistan fell to the Taliban,

Et très, très récemment, en août 2021,

alors que l’Afghanistan tombait aux mains des talibans,

it also came to light that biometric data collected on Afghans

il est également apparu que les données biométriques collectées sur les Afghans

by the US military and the Afghan government

par l’armée américaine et le gouvernement afghan

and used by a variety of actors

et utilisées par divers acteurs

were now in the hands of the Taliban.

étaient désormais entre les mains des talibans.

Journalists' houses were searched.

Les maisons des journalistes ont été perquisitionnées.

Afghans desperately raced against time to erase their digital history online.

Les Afghans ont désespérément couru contre la montre

pour effacer leur histoire numérique en ligne.

Technologies of empowerment then become technologies of disempowerment.

Les technologies d’autonomisation

deviennent alors des technologies de désautonomisation.

It is because these technologies

C’est parce que ces technologies

are designed on a certain set of societal assumptions,

sont conçues sur un certain ensemble d’hypothèses sociétales,

embedded in market and then filtered through capitalist considerations.

intégrées au marché

puis filtrées à travers des considérations capitalistes.

But technologies created in one context and then parachuted into another

Mais des technologies créées dans un contexte

puis parachutées dans un autre

will always fail

échouera toujours

because it is based on assumptions of how people lead their lives.

parce qu’il est basé sur des hypothèses

sur la façon dont les gens mènent leur vie.

And whilst here, you and I may be relatively comfortable

Et pendant qu’ici, toi et moi sommes peut-être relativement à l’aise

providing a fingertip scan to perhaps go to the movies,

de fournir un scan du bout des doigts pour peut-être aller au cinéma,

we cannot extrapolate that out to the level of safety one would feel

nous ne pouvons pas extrapoler cela

au niveau de sécurité que l’on ressentirait

while standing in line,

en faisant la queue,

having to give up that little bit of data about themselves

devant abandonner ce peu de données sur eux-mêmes

in order to access food rations.

pour accéder aux rations alimentaires.

Humanitarians assume that technology will liberate humanity,

Les humanitaires supposent que la technologie libérera l’humanité,

but without any due consideration of issues of power, exploitation and harm

mais sans tenir compte des questions de pouvoir, d’exploitation et de préjudice

that can occur for this to happen.

qui peuvent survenir pour que cela se produise.

Instead, we rush to solutionizing,

Au lieu de cela, nous nous précipitons vers la solution,

a form of magical thinking

une forme de pensée magique

that assumes that just by deploying shiny solutions,

qui suppose que juste en déployant des solutions brillantes,

nous pouvons résoudre le problème qui se pose à nous.

we can solve the problem in front of us

without any real analysis of underlying realities.

sans véritable analyse des réalités sous-jacentes.

These are tools at the end of the day,

Ce sont des outils en fin de compte,

and tools, like a chef's knife,

comme un couteau de chef,

in the hands of some, the creator of a beautiful meal,

entre les mains de certains, créateur d’un beau repas,

and in the hands of others, devastation.

et entre les mains des autres,

la dévastation.

So how do we ensure that we do not design

Alors, comment pouvons-nous nous assurer que nous ne concevons pas

the inequities of our past into our digital futures?

les inégalités de notre passé dans notre avenir numérique ?

And I want to be clear about one thing.

Et je veux être clair sur une chose. Je ne suis pas contre la technologie.

I'm not anti-tech. I am anti-dumb tech.

Je suis contre la technologie inintelligente.

(Laughter)

(Rires)

(Applause)

(Applaudissements)

The limited imaginings of the few

L’imagination limitée de quelques-uns

should not colonize the radical re-imaginings of the many.

ne devrait pas coloniser

les réimaginations radicales de la majorité.

So how then do we ensure that we design an ethical baseline,

Alors, comment pouvons-nous nous assurer

que nous concevons une ligne de base éthique,

so that the liberation that this promises is not just for a privileged few,

de sorte que la libération que cela promet

ne soit pas seulement pour quelques privilégiés,

but for all of us?

mais pour nous tous ?

There are a few examples that can point to a way forward.

Quelques exemples peuvent indiquer une voie à suivre.

I love the work of Indigenous AI

J’adore le travail sur l’IA indigène

qui, au lieu de s’inspirer des valeurs et des philosophies occidentales,

that instead of drawing from Western values and philosophies,

it draws from Indigenous protocols and values

s’inspire des protocoles et des valeurs indigènes

to embed into AI code.

pour les intégrer dans le code AI.

I also really love the work of Nia Tero,

J’aime aussi beaucoup le travail de Nia Tero,

an Indigenous co-led organization that works with Indigenous communities

une organisation indigène codirigée qui travaille avec les communautés indigènes

to map their own well-being and territories

pour cartographier leur propre bien-être et leurs territoires

as opposed to other people coming in to do it on their behalf.

Au lieu d’autres personnes venant le faire en leur nom.

I've learned a lot from the Satellite Sentinel Project back in 2010,

J’ai beaucoup appris du projet Satellite Sentinel en 2010,

which is a slightly different example.

qui est un exemple légèrement différent.

The project started essentially to map atrocities

Le projet a commencé essentiellement cartographier les atrocités

through remote sensing technologies, satellites,

grâce aux technologies de télédétection, aux satellites,

in order to be able to predict and potentially prevent them.

afin de pouvoir les prévoir et éventuellement les prévenir.

Now the project wound down after a few years

Cependant, le projet s’est terminé après quelques années

for a variety of reasons,

pour diverses raisons,

one of which being that it couldn’t actually generate action.

dont l’une était qu’il ne pouvait pas réellement générer d’action.

But the second, and probably the most important,

Mais la deuxième, et probablement la plus importante,

was that the team realized they were operating without an ethical net.

était que l’équipe s’est rendu compte qu’elle fonctionnait sans filet éthique.

And without ethical guidelines in place,

Et sans lignes directrices éthiques en place,

it was a very wide open line of questioning

c’était une question très ouverte

about whether what they were doing was helpful or harmful.

de savoir si ce qu’ils faisaient était utile ou nuisible.

And so they decided to wind down before creating harm.

Et ils ont donc décidé de se calmer avant de créer du mal.

In the absence of legally binding ethical frameworks

En l’absence de cadres éthiques juridiquement contraignants

to guide our work,

pour guider notre travail,

I have been working on a range of ethical principles

j’ai travaillé sur une série de principes éthiques

to help inform humanitarian tech innovation,

pour aider à éclairer l’innovation technologique humanitaire,

and I'd like to put forward a few of these here for you today.

et j’aimerais vous en présenter quelques-uns aujourd’hui.

One: Ask.

Un : demandez.

Which groups of humans will be harmed by this and when?

Quels groupes d’humains seront blessés par cela et quand ?

Assess: Who does this solution actually benefit?

Évaluer : à qui cette solution profite-t-elle réellement ?

Interrogate: Was appropriate consent obtained from the end users?

Interroger : Le consentement approprié a-t-il été obtenu des utilisateurs ?

Consider: What must we gracefully exit out of

Réfléchissez : de quoi devons-nous sortir avec grâce

to be fit for these futures?

pour être prêts pour ces futurs ?

And imagine: What future good might we foreclose

Et imaginez : Quel bien futur pourrions-nous exclure

if we implemented this action today?

si nous mettions en œuvre cette action aujourd’hui ?

We are accountable for the futures that we create.

Nous sommes responsables pour les futurs que nous créons.

We cannot absolve ourselves of the responsibilities

Nous ne pouvons pas nous décharger des responsabilités

and accountabilities of our actions

et des obligations redditionelles de nos actions.

if our actions actually cause harm

Si nos actions causent réellement du tort

to those that we purport to protect and serve.

à ceux que nous disons que nous protégeons et servons

Another world is absolutely, radically possible.

un autre monde est absolument, radicalement possible.

Thank you.

Merci.

(Applause)

(Applaudissements)