5 Ethical Principles for Digitizing Humanitarian Aid | Aarathi Krishnan | TED

Tradutor: Eliana Santos Revisora: Nadia Tira

Sociologist Zeynep Tufekci once said

A socióloga Zeynep Tufekci uma vez disse

that history is full of massive examples

que a História está repleta de imensos exemplos

of harm caused by people with great power

de danos causados por pessoas com muito poder

who felt that just because they felt themselves to have good intentions,

que achavam que por terem boas intenções,

that they could not cause harm.

não causariam danos.

In 2017,

Em 2017,

Rohingya refugees started to flee Myanmar into Bangladesh

refugiados Roinga começaram a fugir do Mianmar para o Bangladesh

due to a crackdown by the Myanmar military,

devido a uma repressão do exército do Mianmar,

an act that the UN subsequently called of genocidal intent.

um ato que as Nações Unidas depois chamaram de intenção genocida.

As they started to arrive into camps,

À medida que começaram a chegar aos acampamentos,

they had to register for a range of services.

tiveram de se registar numa variedade de serviços.

One of this was to register

Um deles era registarem-se

for a government-backed digital biometric identification card.

para um cartão de identificação biométrico digital apoiado pelo governo.

They weren't actually given the option to opt out.

Não lhes era dada a opção de recusar.

In 2021, Human Rights Watch accused international humanitarian agencies

Em 2021, a Human Rights Watch acusou agências humanitárias internacionais

of sharing improperly collected information about Rohingya refugees

de partilharem informações recolhidas de modo impróprio sobre refugiados Roinga

with the Myanmar government without appropriate consent.

com o governo de Mianmar sem consentimento apropriado.

The information shared didn't just contain biometrics.

As informações partilhadas não continham apenas dados biométricos.

It contained information about family makeup, relatives overseas,

Continham informações sobre a composição das famílias, parentes no estrangeiro,

where they were originally from.

de onde eram originalmente.

Sparking fears of retaliation by the Myanmar government,

Com medo de retaliações por parte do governo de Mianmar,

some went into hiding.

alguns esconderam-se.

Targeted identification of persecuted peoples

A identificação específica de pessoas perseguidas

has long been a tactic of genocidal regimes.

há muito tempo que é uma tática de regimes genocidas.

But now that data is digitized, meaning it is faster to access,

Agora que os dados estão digitalizados, significa que são mais fáceis de aceder,

quicker to scale and more readily accessible.

mais rápidos de escalar e mais prontamente acessíveis.

This was a failure on a multitude of fronts:

Isto foi uma falha numa imensidão de frentes:

institutional, governance, moral.

institucional, de governação, moral.

I have spent 15 years of my career working in humanitarian aid.

Passei 15 anos da minha carreira a trabalhar em ajuda humanitária.

From Rwanda to Afghanistan.

Desde o Ruanda até ao Afeganistão.

What is humanitarian aid, you might ask?

O que é a ajuda humanitária, perguntam vocês?

In its simplest terms, it's the provision of emergency care

Nos termos mais simples, é o fornecimento de cuidados de emergência

to those that need it the most at desperate times.

àqueles que precisam mais deles em momentos desesperados.

Post-disaster, during a crisis. Food, water, shelter.

Após um desastre, durante uma crise. Comida, água, abrigo.

I have worked within very large humanitarian organizations,

Já trabalhei em organizações humanitárias muito grandes,

whether that's leading multicountry global programs

quer seja a liderar programas globais de vários países

to designing drone innovations for disaster management

ou a projetar inovações de drones para gestão de desastres

across small island states.

em pequenos Estados insulares.

I have sat with communities in the most fragile of contexts,

Já me sentei com comunidades nos contextos mais frágeis,

where conversations about the future are the first ones they've ever had.

onde conversas sobre o futuro foram as primeiras que eles já tiveram.

And I have designed global strategies to prepare humanitarian organizations

E já elaborei estratégias globais para preparar organizações humanitárias

for these same futures.

para estes mesmos futuros.

And the one thing I can say

E algo que posso dizer

is that humanitarians, we have embraced digitalization

é que nós, os humanitários, aceitamos a digitalização

at an incredible speed over the last decade,

a uma velocidade incrível na última década,

moving from tents and water cans,

passando de tendas e latas de água,

which we still use, by the way,

que ainda usamos, já agora,

to AI, big data, drones, biometrics.

para IA, grandes volumes de dados, drones, dados biométricos.

These might seem relevant, logical, needed,

Estes podem parecer relevantes, lógicos, necessários,

even sexy to technology enthusiasts.

até atraentes para os entusiastas da tecnologia.

But what it actually is, is the deployment of untested technologies

Mas o que significa na verdade é a implementação de tecnologias não testadas

on vulnerable populations without appropriate consent.

em populações vulneráveis sem consentimento adequado.

And this gives me pause.

E isto leva-me a refletir.

I pause because the agonies we are facing today

Reflito porque as agonias que enfrentamos hoje em dia

as a global humanity

como Humanidade global

didn't just happen overnight.

não aconteceram de um dia para o outro.

They happened as a result of our shared history of colonialism

Aconteceram como resultado da nossa história partilhada de colonialismo

and humanitarian technology innovations are inherently colonial,

e as inovações tecnológicas humanitárias são inerentemente coloniais,

often designed for and in the good of groups of people

muitas vezes projetadas para e em benefício de grupos de pessoas

seen as outside of technology themselves,

vistas como estando por fora da tecnologia,

and often not legitimately recognized

e que muitas vezes não são legitimamente reconhecidas

as being able to provide for their own solutions.

como conseguindo conceber as suas próprias soluções.

And so, as a humanitarian myself, I ask this question:

Por isso, como humanitária eu própria, faço esta pergunta:

in our quest to do good in the world,

na nossa missão de fazermos o bem no mundo,

how can we ensure that we do not lock people into future harm,

como podemos garantir que não prendemos as pessoas em danos futuros,

future indebtedness and future inequity as a result of these actions?

endividamentos futuros e iniquidade futura como resultado destas ações?

It is why I now study the ethics of humanitarian tech innovation.

É por isso que agora estudo a ética da inovação tecnológica humanitária.

And this isn't just an intellectually curious pursuit.

E não é apenas por curiosidade intelectual.

It's a deeply personal one.

É algo profundamente pessoal.

Driven by the belief that it is often people that look like me,

Guiada pela crença que, muitas vezes, são pessoas parecidas comigo,

that come from the communities I come from,

que vêm das comunidades de onde eu vim,

historically excluded and marginalized,

historicamente excluídas e marginalizadas,

that are often spoken on behalf of

onde outros falam em nome delas

and denied voice in terms of the choices

e lhes negam ter uma opinião em termos das escolhas

available to us for our future.

disponíveis para elas para o seu futuro.

As I stand here on the shoulders of all those that have come before me

Estou aqui “nos ombros” daqueles que vieram antes de mim

and in obligation for all of those that will come after me

e na obrigação por todos aqueles que virão depois de mim

to say to you that good intentions alone do not prevent harm,

para vos dizer que apenas boas intenções não previnem danos,

and good intentions alone can cause harm.

e apenas boas intenções podem causar danos.

I'm often asked, what do I see ahead of us in this next 21st century?

Muitas vezes perguntam-me o que vejo no futuro neste século XXI?

And if I had to sum it up:

E se tivesse de resumir:

of deep uncertainty, a dying planet, distrust, pain.

incertezas profundas, um planeta a morrer, desconfiança, dor.

And in times of great volatility, we as human beings, we yearn for a balm.

E em tempos de grande volatilidade, nós como humanos, ansiamos por consolação.

And digital futures are exactly that, a balm.

E os futuros digitais são exatamente isso, uma consolação.

We look at it in all of its possibility

Olhamos para isso com toda a sua possibilidade

as if it could soothe all that ails us, like a logical inevitability.

como se pudesse acalmar tudo o que nos aflige, como uma inevitabilidade lógica.

In recent years, reports have started to flag

Nos últimos anos, alguns relatórios começaram a sinalizar

the new types of risks that are emerging about technology innovations.

os novos tipos de riscos que estão a surgir com as inovações tecnológicas.

One of this is around how data collected on vulnerable individuals

Um destes riscos é como os dados recolhidos sobre indivíduos vulneráveis

can actually be used against them as retaliation,

podem ser utilizados contra eles como retaliação,

posing greater risk not just against them, but against their families,

representando um risco maior não só para eles como para as suas famílias,

against their community.

para as suas comunidades.

We saw these risks become a truth with the Rohingya.

Vimos estes riscos tornarem-se verdadeiros com os Roinga.

And very, very recently, in August 2021, as Afghanistan fell to the Taliban,

Recentemente, em agosto de 2021, quando o Afeganistão foi tomado pelos Talibãs,

it also came to light that biometric data collected on Afghans

também foi revelado que dados biométricos recolhidos sobre afegãos

by the US military and the Afghan government

pelo exército dos EUA e pelo governo afegão

and used by a variety of actors

e utilizados por uma variedade de agentes

were now in the hands of the Taliban.

estavam agora nas mãos dos Talibãs.

Journalists' houses were searched.

Foram revistadas casas de jornalistas.

Afghans desperately raced against time to erase their digital history online.

Os afegãos corriam contra o tempo para apagar o seu histórico digital online.

Technologies of empowerment then become technologies of disempowerment.

As tecnologias de capacitação tornavam-se em tecnologias de exclusão.

Isto acontece porque estas tecnologias

It is because these technologies

are designed on a certain set of societal assumptions,

são criadas com base num certo conjunto de premissas sociais,

embedded in market and then filtered through capitalist considerations.

integradas no mercado e depois filtradas através de considerações capitalistas.

But technologies created in one context and then parachuted into another

Mas as tecnologias criadas num contexto e depois testadas noutro

will always fail

vão sempre falhar

because it is based on assumptions of how people lead their lives.

porque estão baseadas em premissas de como as pessoas vivem as suas vidas.

And whilst here, you and I may be relatively comfortable

E aqui, eu e vocês podemos estar relativamente confortáveis

providing a fingertip scan to perhaps go to the movies,

em fazer uma leitura dos dedos para talvez ir ao cinema,

we cannot extrapolate that out to the level of safety one would feel

mas isso não se pode extrapolar aos níveis de segurança que sentiríamos

while standing in line,

ao estar numa fila,

having to give up that little bit of data about themselves

e ter de dar esse pedaço de dados sobre nós

in order to access food rations.

para termos acesso a rações alimentares.

Humanitarians assume that technology will liberate humanity,

Os humanitários assumem que a tecnologia vai libertar a Humanidade,

but without any due consideration of issues of power, exploitation and harm

sem qualquer devida consideração sobre questões de poder, exploração, danos

that can occur for this to happen.

que podem ocorrer para que isto aconteça.

Instead, we rush to solutionizing,

Ao invés, apressamo-nos em arranjar soluções,

a form of magical thinking

uma forma de pensamento mágico,

that assumes that just by deploying shiny solutions,

que assume que apenas por implementarmos soluções cintilantes,

we can solve the problem in front of us

podemos resolver o problema à nossa frente

without any real analysis of underlying realities.

sem qualquer análise verdadeira das realidades subjacentes.

These are tools at the end of the day,

No fim do dia, estas são ferramentas,

and tools, like a chef's knife,

e as ferramentas, como a faca de um chef,

in the hands of some, the creator of a beautiful meal,

nas mãos de alguns, criam belas refeições,

and in the hands of others, devastation.

e nas mãos de outros, criam devastação.

So how do we ensure that we do not design

Então como garantimos que não projetamos

the inequities of our past into our digital futures?

as iniquidades do nosso passado nos nossos futuros digitais?

And I want to be clear about one thing.

E quero ser clara em relação a algo.

Não sou anti-tecnologias. Sou anti-tecnologias parvas.

I'm not anti-tech. I am anti-dumb tech.

(Laughter)

(Risos)

(Applause)

(Aplausos)

The limited imaginings of the few

As imaginações limitadas de alguns

should not colonize the radical re-imaginings of the many.

não devem colonizar as reimaginações radicais de muitos.

So how then do we ensure that we design an ethical baseline,

Então, como é que garantimos que criamos uma base ética,

so that the liberation that this promises is not just for a privileged few,

para que a libertação que isto promete não seja apenas para alguns privilegiados,

but for all of us?

mas para todos nós?

There are a few examples that can point to a way forward.

Existem alguns exemplos que podem apontar para o caminho certo.

I love the work of Indigenous AI

Adoro o trabalho de IA indígena

that instead of drawing from Western values and philosophies,

que em vez de se basear em valores e filosofias ocidentais,

it draws from Indigenous protocols and values

baseia-se em protocolos e valores indígenas

to embed into AI code.

e implementa-os no código da IA.

I also really love the work of Nia Tero,

Também adoro o trabalho de Nia Tero,

an Indigenous co-led organization that works with Indigenous communities

uma organização co-liderada por indígenas que trabalha com comunidades indígenas

to map their own well-being and territories

para traçar o seu próprio bem-estar e territórios

as opposed to other people coming in to do it on their behalf.

ao contrário de outras pessoas virem fazê-lo em seu nome.

I've learned a lot from the Satellite Sentinel Project back in 2010,

Aprendi muito com o Satellite Sentinel Project em 2010,

which is a slightly different example.

que é um exemplo ligeiramente diferente.

The project started essentially to map atrocities

Essencialmente, o projeto começou para traçar atrocidades

through remote sensing technologies, satellites,

através de tecnologias e satélites com teledeteção,

in order to be able to predict and potentially prevent them.

de modo a poder prever e potencialmente evitá-las.

Now the project wound down after a few years

O projeto terminou depois de alguns anos

for a variety of reasons,

por uma variedade de razões,

one of which being that it couldn’t actually generate action.

uma delas sendo o facto de não conseguir gerar ação de verdade.

But the second, and probably the most important,

Mas a segunda, e talvez a mais importante,

was that the team realized they were operating without an ethical net.

foi que a equipa percebeu que estava a funcionar sem uma rede ética.

And without ethical guidelines in place,

E sem diretrizes éticas existentes,

it was a very wide open line of questioning

era uma linha aberta muito ampla para se questionarem

about whether what they were doing was helpful or harmful.

sobre se o que estavam a fazer era útil ou prejudicial.

And so they decided to wind down before creating harm.

Por isso, decidiram terminar antes de causarem danos.

In the absence of legally binding ethical frameworks

Na ausência de princípios éticos juridicamente vinculativos

to guide our work,

para guiar o nosso trabalho,

I have been working on a range of ethical principles

tenho estado a trabalhar numa série de princípios éticos

to help inform humanitarian tech innovation,

para informar a inovação tecnológica humanitária,

and I'd like to put forward a few of these here for you today.

e gostaria de apresentar alguns deles hoje aqui para vocês.

One: Ask.

Um: Perguntar.

Which groups of humans will be harmed by this and when?

Que grupos de humanos serão prejudicados por isto e quando?

Assess: Who does this solution actually benefit?

Avaliar: Quem é que esta solução beneficia?

Interrogate: Was appropriate consent obtained from the end users?

Interrogar: Foi obtido consentimento adequado dos utilizadores finais?

Consider: What must we gracefully exit out of

Considerar: A que devemos renunciar para estarmos aptos

to be fit for these futures?

para estes futuros?

And imagine: What future good might we foreclose

E imaginar: Que bem futuro podemos impedir

if we implemented this action today?

se implementássemos esta ação hoje?

We are accountable for the futures that we create.

Somos responsáveis pelos futuros que criamos.

We cannot absolve ourselves of the responsibilities

Não nos podemos absolver das responsabilidades

and accountabilities of our actions

e prestações de contas das nossas ações

if our actions actually cause harm

se as nossas ações causarem danos

to those that we purport to protect and serve.

àqueles que alegamos proteger e servir.

Another world is absolutely, radically possible.

É absoluta e radicalmente possível existir outro mundo.

Thank you.

Obrigada.

(Applause)

(Aplausos)