5 Ethical Principles for Digitizing Humanitarian Aid | Aarathi Krishnan | TED

Traductor: Almudena Torrecilla Revisor: Sebastian Betti

Sociologist Zeynep Tufekci once said

El sociólogo Zeynep Tufekci dijo en una ocasión

that history is full of massive examples

que la historia estaba llena de grandes ejemplos

of harm caused by people with great power

de daños causados por gente poderosa

who felt that just because they felt themselves to have good intentions,

que pensaba que solo porque creían tener buenas intenciones,

that they could not cause harm.

no podían causar daño alguno.

In 2017,

En 2017,

Rohingya refugees started to flee Myanmar into Bangladesh

los refugiados rohingya comenzaron a huir de Myanmar hacia Bangladesh

due to a crackdown by the Myanmar military,

debido a la represión por parte del ejército de Myanmar,

an act that the UN subsequently called of genocidal intent.

un acto que la ONU calificó posteriormente de intención genocida.

As they started to arrive into camps,

Según llegaban a los campos de refugiados,

they had to register for a range of services.

tenían que registrarse para una serie de servicios,

One of this was to register

entre ellos la inscripción

for a government-backed digital biometric identification card.

a una tarjeta de identificación biométrica avalada por el gobierno.

They weren't actually given the option to opt out.

En realidad no tenían opción de negarse.

In 2021, Human Rights Watch accused international humanitarian agencies

En 2021, Human Rights Watch acusó a las agencias humanitarias internacionales

of sharing improperly collected information about Rohingya refugees

de compartir información recogida de forma ilícita sobre los refugiados rohingya

with the Myanmar government without appropriate consent.

con el gobierno de Myanmar y sin el debido consentimiento.

The information shared didn't just contain biometrics.

La información compartida no solo contenía datos biométricos,

It contained information about family makeup, relatives overseas,

también acerca de la composición familiar, los parientes en el extranjero

where they were originally from.

y su lugar de origen.

Sparking fears of retaliation by the Myanmar government,

Ante el temor de represalias por parte del gobierno de Myanmar,

some went into hiding.

algunos se escondieron.

Targeted identification of persecuted peoples

La identificación selectiva de los pueblos perseguidos

has long been a tactic of genocidal regimes.

ha sido durante mucho tiempo una táctica de los regímenes genocidas.

But now that data is digitized, meaning it is faster to access,

Pero ahora los datos están digitalizados, por lo que son de fácil acceso,

quicker to scale and more readily accessible.

se escalan más rápidamente, y su disponibilidad es mayor.

This was a failure on a multitude of fronts:

Así que todo esto fue un fracaso en multitud de frentes:

institutional, governance, moral.

institucional, gubernamental y moral.

I have spent 15 years of my career working in humanitarian aid.

Llevo 15 años trabajando en el sector de la ayuda humanitaria.

From Rwanda to Afghanistan.

De Ruanda a Afganistán.

What is humanitarian aid, you might ask?

¿Qué es la ayuda humanitaria?, quizás se pregunten.

In its simplest terms, it's the provision of emergency care

Dicho simplemente, consiste en proporcionar cuidados de emergencia

to those that need it the most at desperate times.

a quienes más lo necesitan en momentos críticos,

Post-disaster, during a crisis. Food, water, shelter.

tras una catástrofe o durante una crisis, donde faltará comida, agua y refugio.

I have worked within very large humanitarian organizations,

He trabajado en organizaciones humanitarias muy grandes,

whether that's leading multicountry global programs

ya sea liderando programas multinacionales a nivel mundial

to designing drone innovations for disaster management

o diseñando mejoras en los drones

para la gestión de desastres en pequeños estados insulares.

across small island states.

I have sat with communities in the most fragile of contexts,

Me he sentado con comunidades en los contextos más frágiles,

where conversations about the future are the first ones they've ever had.

donde nunca antes habían hablado sobre su futuro.

And I have designed global strategies to prepare humanitarian organizations

Y he diseñado estrategias mundiales para que las organizaciones humanitarias

for these same futures.

se preparen para tales escenarios futuros.

And the one thing I can say

Y lo único que puedo decir

is that humanitarians, we have embraced digitalization

es que el personal humanitario ha ido adoptando la digitalización

at an incredible speed over the last decade,

a una velocidad increíble durante la última década,

moving from tents and water cans,

pasando de las tiendas de campaña y las cantimploras,

which we still use, by the way,

que todavía usamos, por cierto,

to AI, big data, drones, biometrics.

a la AI, los macrodatos, los drones y la biometría.

These might seem relevant, logical, needed,

Todo esto puede parecer relevante, lógico, necesario

even sexy to technology enthusiasts.

e incluso atractivo para los entusiastas de la tecnología.

But what it actually is, is the deployment of untested technologies

Pero en el fondo es un despliegue de tecnologías no testadas

on vulnerable populations without appropriate consent.

en poblaciones vulnerables y sin el consentimiento apropiado.

And this gives me pause.

Y esto me hace detenerme.

I pause because the agonies we are facing today

Detenerme porque las penurias que sufrimos hoy en día

as a global humanity

a nivel de toda la humanidad

didn't just happen overnight.

no han aparecido de la noche a la mañana.

They happened as a result of our shared history of colonialism

Son el resultado de una historia compartida de colonialismo,

and humanitarian technology innovations are inherently colonial,

donde las novedades tecnológicas son inherentemente coloniales,

often designed for and in the good of groups of people

pues a menudo están diseñadas para y por el bien de pueblos

seen as outside of technology themselves,

que se encuentran fuera del entorno tecnológico,

and often not legitimately recognized

o que no están legítimamente considerados

as being able to provide for their own solutions.

como capaces de proveer sus propias soluciones.

And so, as a humanitarian myself, I ask this question:

Y como parte del personal humanitario, planteo esta pregunta:

in our quest to do good in the world,

En nuestra misión de hacer el bien en el mundo,

how can we ensure that we do not lock people into future harm,

¿cómo podemos asegurarnos de no abocar a las personas a daños futuros,

future indebtedness and future inequity as a result of these actions?

al endeudamiento y la inequidad como resultado de nuestras acciones?

It is why I now study the ethics of humanitarian tech innovation.

Es por eso que ahora estudio la ética de la innovación tecnológica humanitaria.

And this isn't just an intellectually curious pursuit.

Y no solo por curiosidad intelectual, tengo motivos profundamente personales.

It's a deeply personal one.

Driven by the belief that it is often people that look like me,

Me muevo impulsada por la creencia de que a menudo es gente como yo,

that come from the communities I come from,

proveniente de las mismas comunidades que yo,

historically excluded and marginalized,

que ha sido históricamente excluida y marginada,

that are often spoken on behalf of

donde otros hablan por ellos

and denied voice in terms of the choices

y que no tienen voz ni voto

en cuanto a las opciones disponibles para su futuro.

available to us for our future.

As I stand here on the shoulders of all those that have come before me

Mientras cabalgo a hombros de aquellos que me han precedido

and in obligation for all of those that will come after me

y tengo una responsabilidad ante aquellos que vendrán después de mí

to say to you that good intentions alone do not prevent harm,

afirmo que las buenas intenciones por sí solas no previenen el daño,

and good intentions alone can cause harm.

y además pueden causarlo.

I'm often asked, what do I see ahead of us in this next 21st century?

A menudo me preguntan qué anticipo que ocurrirá durante el actual siglo XXI.

And if I had to sum it up:

Y en resumen lo que digo es:

of deep uncertainty, a dying planet, distrust, pain.

una gran incertidumbre, un planeta agonizante, desconfianza y dolor.

And in times of great volatility, we as human beings, we yearn for a balm.

En tiempos de gran volatilidad, los seres humanos anhelamos un bálsamo.

And digital futures are exactly that, a balm.

Y el futuro digital es exactamente eso, un bálsamo.

We look at it in all of its possibility

Consideramos su oferta de posibilidades

as if it could soothe all that ails us, like a logical inevitability.

como si pudiera calmar todos los males, con una inevitabilidad lógica.

In recent years, reports have started to flag

En los últimos años, los informes han comenzado a señalar

the new types of risks that are emerging about technology innovations.

los nuevos tipos de riesgo, fruto de las innovaciones tecnológicas.

One of this is around how data collected on vulnerable individuals

Uno de ellos es que los datos recopilados acerca de las personas vulnerables

can actually be used against them as retaliation,

pueden usarse en su contra como represalia,

posing greater risk not just against them, but against their families,

representando un riesgo mayor no solo contra ellos,

también contra sus familias y su comunidad.

against their community.

We saw these risks become a truth with the Rohingya.

Esta realidad ya la constatamos con los rohingya.

And very, very recently, in August 2021, as Afghanistan fell to the Taliban,

Y muy recientemente, en agosto de 2021, cuando Afganistán cayó bajo los talibanes,

it also came to light that biometric data collected on Afghans

salió a la luz que los datos biométricos recopilados sobre los afganos

by the US military and the Afghan government

por el ejército estadounidense y el gobierno afgano,

and used by a variety of actors

y utilizados por una serie de actores,

were now in the hands of the Taliban.

habían caído en manos de los talibanes.

Journalists' houses were searched.

Registraron las casas de los periodistas.

Afghans desperately raced against time to erase their digital history online.

Los afganos lucharon contrarreloj para hacer desaparecer su historial digital.

Technologies of empowerment then become technologies of disempowerment.

Y las tecnologías de empoderamiento pasan a ser de desempoderamiento.

It is because these technologies

Es porque estas tecnologías

are designed on a certain set of societal assumptions,

están diseñadas en base a un cierto conjunto de supuestos sociales,

embedded in market and then filtered through capitalist considerations.

se integran en el mercado y se filtran según parámetros capitalistas.

But technologies created in one context and then parachuted into another

Pero las tecnologías creadas en un contexto y testadas en otro,

will always fail

siempre fallarán,

because it is based on assumptions of how people lead their lives.

porque se basan en suposiciones sobre los modos de vida.

And whilst here, you and I may be relatively comfortable

Y mientras a Uds. y a mí no nos incomoda

providing a fingertip scan to perhaps go to the movies,

pasar la huella por un escáner por ejemplo a la entrada de un cine,

we cannot extrapolate that out to the level of safety one would feel

eso no es extrapolable

al nivel de seguridad que alguien puede sentir mientras espera en una fila,

while standing in line,

having to give up that little bit of data about themselves

debiendo desvelar una pequeña parte de sí mismo

in order to access food rations.

para poder acceder a las raciones de alimentos.

Humanitarians assume that technology will liberate humanity,

El personal humanitario asume que la tecnología liberará a la humanidad,

but without any due consideration of issues of power, exploitation and harm

pero se olvidan de la debida consideración de las cuestiones de poder,

la explotación y el daño que pueden sobrevenir para este fin.

that can occur for this to happen.

Instead, we rush to solutionizing,

En cambio, nos lanzamos a buscar soluciones,

a form of magical thinking

en forma de pensamiento milagroso

that assumes that just by deploying shiny solutions,

el cual asume que simplemente implementando soluciones brillantes,

we can solve the problem in front of us

resolveremos el problema que tenemos enfrente,

without any real analysis of underlying realities.

obviando cualquier análisis formal de las realidades subyacentes.

These are tools at the end of the day,

Son herramientas al fin y al cabo,

and tools, like a chef's knife,

herramientas, como un cuchillo de chef,

in the hands of some, the creator of a beautiful meal,

que en manos de unos, elabora una deliciosa comida,

and in the hands of others, devastation.

y en manos de otros, genera devastación.

So how do we ensure that we do not design

Entonces, ¿cómo asegurarnos de que no estamos trasladando

the inequities of our past into our digital futures?

las desigualdades del pasado a nuestro futuro digital?

And I want to be clear about one thing.

Y quiero dejar clara una cosa.

No estoy en contra de la tecnología, solo en contra de la que es para tontos.

I'm not anti-tech. I am anti-dumb tech.

(Laughter)

(Risas)

(Applause)

(Aplausos)

The limited imaginings of the few

La limitada imaginación de unos pocos

should not colonize the radical re-imaginings of the many.

no debería colonizar la rica imaginación innovadora de la mayoría.

So how then do we ensure that we design an ethical baseline,

Entonces, ¿cómo nos aseguramos de diseñar una base ética,

so that the liberation that this promises is not just for a privileged few,

para que la liberación prometida no sea solo para unos pocos privilegiados,

but for all of us?

sino para todos nosotros?

There are a few examples that can point to a way forward.

Hay algunos ejemplos que pueden señalar el camino a seguir.

I love the work of Indigenous AI

Me encanta el trabajo de la IA indígena que,

that instead of drawing from Western values and philosophies,

en lugar de basarse en valores y filosofías occidentales,

it draws from Indigenous protocols and values

se basa en protocolos y valores indígenas y los implementa en el código de la IA.

to embed into AI code.

I also really love the work of Nia Tero,

También me encanta el trabajo de Nia Tero,

an Indigenous co-led organization that works with Indigenous communities

una organización indígena codirigida que trabaja con comunidades indígenas

to map their own well-being and territories

para que ellos mismos tracen su propio bienestar y su territorio,

as opposed to other people coming in to do it on their behalf.

a diferencia de otras organizaciones que lo hacen directamente en su nombre.

I've learned a lot from the Satellite Sentinel Project back in 2010,

Aprendí mucho del proyecto Satellite Sentinel en 2010,

which is a slightly different example.

que es un ejemplo ligeramente diferente.

The project started essentially to map atrocities

El proyecto comenzó esencialmente para registrar las atrocidades

through remote sensing technologies, satellites,

a través de tecnologías de teledetección y satélites,

in order to be able to predict and potentially prevent them.

para así poder predecirlas y posiblemente prevenirlas.

Now the project wound down after a few years

Pero el proyecto terminó tras varios años por una variedad de razones,

for a variety of reasons,

one of which being that it couldn’t actually generate action.

una de los cuales era que en realidad no llevaba a la acción.

But the second, and probably the most important,

Pero la segunda, y probablemente la más importante,

was that the team realized they were operating without an ethical net.

era que el equipo se dio cuenta de que estaban operando sin una red ética.

And without ethical guidelines in place,

Y sin pautas éticas establecidas,

it was a very wide open line of questioning

se abría el cuestionamiento

about whether what they were doing was helpful or harmful.

sobre si lo que estaban haciendo era útil o dañino.

And so they decided to wind down before creating harm.

Y entonces decidieron ponerle fin para no arriesgarse a causar daño.

In the absence of legally binding ethical frameworks

En ausencia de marcos éticos legalmente vinculantes

to guide our work,

que guíen nuestro trabajo,

I have been working on a range of ethical principles

me he estado centrando en una serie de principios éticos

to help inform humanitarian tech innovation,

para ayudar al desarrollo de la innovación humanitaria,

and I'd like to put forward a few of these here for you today.

y hoy me gustaría presentarles algunos de ellos.

One: Ask.

Uno: Preguntar.

Which groups of humans will be harmed by this and when?

¿Qué grupos humanos se verán perjudicados por esto y cuándo?

Assess: Who does this solution actually benefit?

Evaluar: ¿A quién beneficia realmente esta solución?

Interrogate: Was appropriate consent obtained from the end users?

Averiguar: ¿Se obtuvo el consentimiento apropiado de los usuarios finales?

Consider: What must we gracefully exit out of

Considerar: ¿A qué debemos renunciar para adaptarnos a un determinado futuro?

to be fit for these futures?

And imagine: What future good might we foreclose

E imaginar:

¿Qué bien futuro podríamos recuperar si implementáramos tal acción hoy?

if we implemented this action today?

We are accountable for the futures that we create.

Somos responsables de los futuros que creamos.

We cannot absolve ourselves of the responsibilities

No podemos desentendernos de la responsabilidad

and accountabilities of our actions

y de la autoría de nuestras acciones,

if our actions actually cause harm

si nuestras acciones están causando daño

to those that we purport to protect and serve.

a aquellos a quienes pretendemos proteger y servir.

Another world is absolutely, radically possible.

Otro mundo es absoluta y radicalmente posible.

Thank you.

Gracias.

(Applause)

(Aplausos)