5 Ethical Principles for Digitizing Humanitarian Aid | Aarathi Krishnan | TED

Traduttore: Laura Bifulco Revisore: Gabriella Patricola

Sociologist Zeynep Tufekci once said

La sociologa Zeynep Tufekci una volta disse

that history is full of massive examples

che la storia è piena di grandi esempi

of harm caused by people with great power

di danni causati da persone con grandi poteri

who felt that just because they felt themselves to have good intentions,

che, solo perché sentivano di avere buone intenzioni,

that they could not cause harm.

pensavano di non poter causare danni.

In 2017,

Nel 2017,

Rohingya refugees started to flee Myanmar into Bangladesh

i rifugiati Rohingya hanno iniziato a fuggire dalla Birmania in Bangladesh

due to a crackdown by the Myanmar military,

a causa della repressione dell’esercito birmano,

an act that the UN subsequently called of genocidal intent.

un atto che l’ONU ha poi definito genocida.

As they started to arrive into camps,

All’arrivo nei campi profughi,

they had to register for a range of services.

dovevano registrarsi per una serie di servizi.

One of this was to register

Uno di essi prevedeva la creazione

for a government-backed digital biometric identification card.

di una carta d’identità biometrica digitale voluta dal governo

They weren't actually given the option to opt out.

Non è stata loro concessa la possibilità di rifiutarsi.

In 2021, Human Rights Watch accused international humanitarian agencies

Nel 2021, Human Rights Watch ha accusato alcune agenzie umanitarie internazionali

of sharing improperly collected information about Rohingya refugees

di aver diffuso dati raccolti indebitamente sui rifugiati Rohingya

with the Myanmar government without appropriate consent.

al governo birmano, senza adeguato consenso.

The information shared didn't just contain biometrics.

I dati diffusi non erano soltanto biometrici:

It contained information about family makeup, relatives overseas,

contenevano informazioni riguardanti composizione familiare,

parenti oltreconfine e luogo di origine.

where they were originally from.

Sparking fears of retaliation by the Myanmar government,

Temendo ritorsioni da parte del governo birmano,

some went into hiding.

alcuni sono entrati in clandestinità.

Targeted identification of persecuted peoples

L’identificazione mirata dei popoli perseguitati

has long been a tactic of genocidal regimes.

è sempre stata una tattica dei regimi genocidi,

ma adesso i dati sono digitalizzati, e quindi l’accesso ad essi è più veloce,

But now that data is digitized, meaning it is faster to access,

quicker to scale and more readily accessible.

la loro espansione più rapida e la loro consultazione più immediata.

Si tratta di un fallimento su più fronti:

This was a failure on a multitude of fronts:

institutional, governance, moral.

istituzionale, governativo e morale.

I have spent 15 years of my career working in humanitarian aid.

Ho passato 15 anni della mia carriera lavorando nell’assistenza umanitaria,

From Rwanda to Afghanistan.

dal Rwanda all’Afghanistan.

Vi chiedete cosa sia l’assistenza umanitaria?

What is humanitarian aid, you might ask?

In its simplest terms, it's the provision of emergency care

In parole povere, si occupa di fornire assistenza emergenziale

to those that need it the most at desperate times.

a coloro che ne necessitano di più in momenti disperati:

Post-disaster, during a crisis. Food, water, shelter.

dopo una calamità, durante una crisi; cibo, acqua, riparo.

I have worked within very large humanitarian organizations,

Ho lavorato in organizzazioni umanitarie molto grandi,

whether that's leading multicountry global programs

guidando programmi globali sostenuti da molti Paesi

to designing drone innovations for disaster management

o progettando innovazioni per utlizzare i droni

nella gestione delle calamità in piccoli stati insulari.

across small island states.

I have sat with communities in the most fragile of contexts,

Sono stata accanto alle comunità nei contesti più fragili,

where conversations about the future are the first ones they've ever had.

in cui i discorsi sul futuro sono i primi che loro abbiano mai avuto.

Ho progettato strategie globali per preparare le organizzazioni umanitarie

And I have designed global strategies to prepare humanitarian organizations

for these same futures.

a quegli stessi scenari futuri.

And the one thing I can say

E ciò che posso dire

is that humanitarians, we have embraced digitalization

è che le organizzazioni hanno adottato la digitalizzazione

at an incredible speed over the last decade,

a una velocità incredibile durante l’ultimo decennio,

moving from tents and water cans,

passando dalle tende e dalle taniche d’acqua,

which we still use, by the way,

che utilizziamo ancora, comunque,

to AI, big data, drones, biometrics.

alla IA, ai big data, ai droni, alla biometria.

These might seem relevant, logical, needed,

Questi potrebbero sembrare rilevanti, logici, necessari,

even sexy to technology enthusiasts.

anche seducenti per gli appassionati di tecnologia;

But what it actually is, is the deployment of untested technologies

ma in realtà si tratta dell’utilizzo di tecnologie non testate

on vulnerable populations without appropriate consent.

su popolazioni vulnerabili senza il loro consenso.

And this gives me pause.

E questo mi fa riflettere.

Riflettere, perché le agonie che affrontiamo oggi

I pause because the agonies we are facing today

as a global humanity

come umanità globale

didn't just happen overnight.

non sono avvenute da un giorno all’altro.

They happened as a result of our shared history of colonialism

Sono il risultato del passato colonialista che condividiamo,

and humanitarian technology innovations are inherently colonial,

e le innovazioni tecnologiche umanitarie sono intrinsecamente colonialiste,

often designed for and in the good of groups of people

spesso progettate a beneficio di gruppi di persone

viste di per sé come estranee alla tecnologia,

seen as outside of technology themselves,

and often not legitimately recognized

e spesso non riconosciute legittimamente

as being able to provide for their own solutions.

come capaci di provvedere alle proprie soluzioni.

And so, as a humanitarian myself, I ask this question:

Quindi, essendo io stessa un’operatrice umanitaria, chiedo:

in our quest to do good in the world,

nella nostra missione per fare del bene nel mondo,

how can we ensure that we do not lock people into future harm,

come possiamo essere sicuri di non provocare alle persone altro male,

future indebtedness and future inequity as a result of these actions?

altri debiti, altre ingiustizie in futuro come risultato di queste azioni?

It is why I now study the ethics of humanitarian tech innovation.

Per questo, attualmente studio l’etica delle innovazioni tecnologiche umanitarie,

And this isn't just an intellectually curious pursuit.

e non solo per curiosità intellettuale:

It's a deeply personal one.

è una ricerca fortemente personale,

Driven by the belief that it is often people that look like me,

motivata dalla convinzione che, spesso, sono le persone che mi somigliano,

that come from the communities I come from,

delle stesse comunità da cui io provengo,

historically excluded and marginalized,

storicamente escluse e marginalizzate,

that are often spoken on behalf of

ad avere qualcuno che parli per loro e a vedere negata la propria voce

and denied voice in terms of the choices

riguardo alle possibili scelte per il loro futuro.

available to us for our future.

As I stand here on the shoulders of all those that have come before me

Io sono qui sulle spalle di tutti coloro che mi hanno preceduta,

and in obligation for all of those that will come after me

e per tutti coloro che verranno dopo di me

to say to you that good intentions alone do not prevent harm,

per dirvi che le buone intenzioni da sole non bastano a evitare il male,

and good intentions alone can cause harm.

e che le buone intenzioni, da sole, possono causarlo.

I'm often asked, what do I see ahead of us in this next 21st century?

Spesso mi chiedono cosa ci attende, secondo me, nel 21esimo secolo.

And if I had to sum it up:

La mia risposta in breve:

profonda incertezza, un pianeta che muore, sfiducia, dolore.

of deep uncertainty, a dying planet, distrust, pain.

And in times of great volatility, we as human beings, we yearn for a balm.

In tempi di grande instabilità, in quanto esseri umani, bramiamo sollievo,

And digital futures are exactly that, a balm.

e il futuro digitale è esattamente quello, un sollievo:

We look at it in all of its possibility

lo vediamo con tutte le sue possibilità,

as if it could soothe all that ails us, like a logical inevitability.

in grado di lenire tutti i nostri mali, come se fosse un’inevitabilità logica.

In recent years, reports have started to flag

In anni recenti, molte inchieste hanno iniziato a segnalare

the new types of risks that are emerging about technology innovations.

i nuovi rischi che stanno emergendo nel campo dell’innovazione tecnologica.

One of this is around how data collected on vulnerable individuals

uno di essi riguarda come i dati raccolti su individui vulnerabili

can actually be used against them as retaliation,

possano in realtà essere usati contro di loro come rappresaglia,

posing greater risk not just against them, but against their families,

esponendo a rischi maggiori non solo loro, ma anche le loro famiglie,

against their community.

le loro comunità.

We saw these risks become a truth with the Rohingya.

Abbiamo visto questi rischi realizzarsi nel caso dei Rohingya.

And very, very recently, in August 2021, as Afghanistan fell to the Taliban,

Pochissimo tempo fa, nell’agosto 2021, quando l’Afghanistan è caduto ai talebani,

it also came to light that biometric data collected on Afghans

si è anche scoperto che i dati biometrici raccolti sugli afghani

by the US military and the Afghan government

dall’esercito americano e dal governo afghano,

and used by a variety of actors

utilizzati da vari agenti,

were now in the hands of the Taliban.

erano entrati in possesso dei talebani.

Journalists' houses were searched.

Le case dei giornalisti sono state perquisite.

Afghans desperately raced against time to erase their digital history online.

Gli afghani, in una disperata lotta contro il tempo,

hanno tentato di cancellare la loro storia digitale online.

Technologies of empowerment then become technologies of disempowerment.

Tecnologie di emancipazione divengono tecnologie di sottomissione.

Questo perché queste tecnologie

It is because these technologies

are designed on a certain set of societal assumptions,

sono progettate su determinati presupposti sociali,

embedded in market and then filtered through capitalist considerations.

integrate nel mercato e poi filtrate attraverso schemi capitalisti.

But technologies created in one context and then parachuted into another

Ma tecnologie create in un contesto e paracadutate in un contesto diverso

will always fail

falliranno sempre,

because it is based on assumptions of how people lead their lives.

perché basate su supposizioni su come le persone vivono.

And whilst here, you and I may be relatively comfortable

E se io e voi, qui, potremmo essere relativamente tranquilli

providing a fingertip scan to perhaps go to the movies,

fornendo le nostre impronte digitali, magari, per poter andare al cinema,

non possiamo traslare ciò al livello di sicurezza che può provare

we cannot extrapolate that out to the level of safety one would feel

while standing in line,

una persona che sta in fila,

having to give up that little bit of data about themselves

costretta a cedere quei pochi dati personali

in order to access food rations.

per poter ricevere razioni di cibo.

Humanitarians assume that technology will liberate humanity,

Gli operatori umanitari ritengono che la tecnologia libererà l’umanità,

but without any due consideration of issues of power, exploitation and harm

ma se non si dà la dovuta considerazione alle possibili questioni di potere,

sfruttamento e danneggiamento, ciò non può avvenire.

that can occur for this to happen.

Instead, we rush to solutionizing,

E invece

cerchiamo freneticamente soluzioni, attuando una forma di pensiero magico

a form of magical thinking

that assumes that just by deploying shiny solutions,

secondo cui basta sviluppare soluzioni scintillanti

we can solve the problem in front of us

per risolvere il problema in questione

without any real analysis of underlying realities.

senza alcuna vera analisi delle sue realtà di fondo.

These are tools at the end of the day,

Si tratta di strumenti, alla fine.

and tools, like a chef's knife,

Strumenti, come il coltello di uno chef:

in the hands of some, the creator of a beautiful meal,

nelle mani di alcuni crea ottimi piatti,

and in the hands of others, devastation.

mentre nelle mani di altri causa devastazione.

So how do we ensure that we do not design

Come facciamo ad essere sicuri di non includere

the inequities of our past into our digital futures?

le disuguaglianze del nostro passato nel futuro digitale?

E su una cosa voglio essere chiara:

And I want to be clear about one thing.

io non sono contro la tecnologia. Sono contro la tecnologia scema.

I'm not anti-tech. I am anti-dumb tech.

(Laughter)

(Risate)

(Applause)

(Applausi)

Il pensiero limitato di pochi

The limited imaginings of the few

should not colonize the radical re-imaginings of the many.

non dovrebbe colonizzare la rielaborazione radicale di molti.

So how then do we ensure that we design an ethical baseline,

Allora, come ci accertiamo di stabilire una linea di base etica,

so that the liberation that this promises is not just for a privileged few,

che faccia in modo che la liberazione che essa promette non esista soltanto

per pochi privilegiati, ma per tutti noi?

but for all of us?

There are a few examples that can point to a way forward.

Alcuni esempi possono indicarci la via da seguire:

amo il lavoro svolto da Indigenous AI,

I love the work of Indigenous AI

che invece di ispirarsi a valori e filosofie occidentali,

that instead of drawing from Western values and philosophies,

it draws from Indigenous protocols and values

si ispira ai protocolli e ai valori indigeni

to embed into AI code.

integrandoli nei codici dell’IA.

Un’altra realtà che adoro è Nia Tero,

I also really love the work of Nia Tero,

an Indigenous co-led organization that works with Indigenous communities

un’organizzazione indigena co-diretta che collabora con le comunità indigene,

to map their own well-being and territories

che possono mappare il proprio benessere e i propri territori,

as opposed to other people coming in to do it on their behalf.

invece di avere altre persone che lo fanno al posto loro.

I've learned a lot from the Satellite Sentinel Project back in 2010,

Ho imparato molto dal Satellite Sentinel Project del 2010,

che è un esempio leggermente diverso.

which is a slightly different example.

The project started essentially to map atrocities

Essenzialmente, il progetto è stato avviato per mappare le atrocità

through remote sensing technologies, satellites,

servendosi delle tecnologie di telerilevamento, di satelliti,

in order to be able to predict and potentially prevent them.

per riuscire a prevederle e, potenzialmente, a prevenirle.

Now the project wound down after a few years

Il progetto si è interrotto dopo alcuni anni

for a variety of reasons,

per una serie di ragioni,

one of which being that it couldn’t actually generate action.

tra cui il fatto di non essere realmente in grado di entrare in azione.

But the second, and probably the most important,

Ma la seconda ragione, probabilmente la più importante,

was that the team realized they were operating without an ethical net.

fu che il team capì di non operare secondo una rete etica.

And without ethical guidelines in place,

E con la mancanza di linee guida etiche

it was a very wide open line of questioning

si aprì un’ampia serie di interrogativi

about whether what they were doing was helpful or harmful.

circa l’utilità o la dannosità di ciò che stavano facendo.

And so they decided to wind down before creating harm.

Così decisero di interromperlo prima di causare danni.

In the absence of legally binding ethical frameworks

In assenza di riferimenti etici legalmente vincolanti

to guide our work,

a guidare il nostro operato,

I have been working on a range of ethical principles

ho lavorato su una serie di principi etici

to help inform humanitarian tech innovation,

per un’innovazione tecnologica umanitaria informata,

and I'd like to put forward a few of these here for you today.

e oggi vorrei presentarvene alcuni.

One: Ask.

Uno: Chiedere.

Which groups of humans will be harmed by this and when?

Quale gruppo umano sarà danneggiato da ciò, e quando?

Assess: Who does this solution actually benefit?

Valutare: chi trae realmente beneficio da questa soluzione?

Interrogate: Was appropriate consent obtained from the end users?

Domandare: i destinatari finali hanno fornito un appropriato consenso?

Consider: What must we gracefully exit out of

Considerare: da cosa dobbiamo discostarci per realizzare adeguatamente

to be fit for these futures?

quegli scenari futuri?

E immaginare: quali miglioramenti potrebbero restare preclusi

And imagine: What future good might we foreclose

if we implemented this action today?

se oggi attuassimo questa azione?

We are accountable for the futures that we create.

Siamo noi i responsabili del futuro che creiamo.

We cannot absolve ourselves of the responsibilities

Non possiamo autoassolverci dalle responsabilità

and accountabilities of our actions

e dalle conseguenze delle nostre azioni

if our actions actually cause harm

quando esse danneggiano coloro che aspiravamo a proteggere e aiutare.

to those that we purport to protect and serve.

Another world is absolutely, radically possible.

Un altro mondo è assolutamente, radicalmente, possibile.

Thank you.

Grazie.

(Applausi)

(Applause)