6 big ethical questions about the future of AI | Genevieve Bell

Tradutor: Revisora: Margarida Ferreira

Let me tell you a story about artificial intelligence.

Vou contar-vos uma história sobre a Inteligência Artificial.

There's a building in Sydney at 1 Bligh Street.

Há um edifício em Sidney, na Bligh Street, nr. 1,

It houses lots of government apartments

com imensos departamentos do governo e gente atarefada.

and busy people.

From the outside, it looks like something out of American science fiction:

Pelo exterior, parece uma coisa da ficção científica americana,

all gleaming glass and curved lines,

todo ele vidro cintilante e linhas curvas

and a piece of orange sculpture.

e uma escultura cor de laranja.

On the inside, it has excellent coffee on the ground floor

No interior, tem um café excelente no rés do chão

and my favorite lifts in Sydney.

e os meus elevadores preferidos em Sidney.

They're beautiful;

São maravilhosos, quase parecem ter vida.

they look almost alive.

Acontece que me sinto fascinada por elevadores, por muitas razões,

And it turns out I'm fascinated with lifts.

For lots of reasons.

But because lifts are one of the places you can see the future.

porque os elevadores são um dos locais onde podemos ver o futuro.

In the 21st century, lifts are interesting

No século XXI, os elevadores são interessantes

because they're one of the first places that AI will touch you

porque são um dos primeiros lugares em que a IA vos toca

without you even knowing it happened.

sem vocês darem por isso.

In many buildings all around the world,

Em muitos edifícios pelo mundo inteiro,

the lifts are running a set of algorithms.

os elevadores funcionam segundo um conjunto de algoritmos,

A form of protoartificial intelligence.

uma forma de inteligência proto-artificial.

That means before you even walk up to the lift to press the button,

Ou seja, antes de vocês entrarem no elevador e carregarem no botão,

it's anticipated you being there.

ele já previu que vão estar ali,

It's already rearranging all the carriages.

já organizou os procedimentos.

Always going down, to save energy,

Sempre a descer, para poupar energia

and to know where the traffic is going to be.

e saber para onde vai ser o tráfego.

By the time you've actually pressed the button,

Quando carregarem no botão,

you're already part of an entire system

vocês já fazem parte de todo um sistema

that's making sense of people and the environment

que tem noção das pessoas e do ambiente

and the building and the built world.

do edifício e do mundo à sua volta.

I know when we talk about AI, we often talk about a world of robots.

Eu sei que, quando falamos da IA, falamos sobretudo de um mundo de robôs.

It's easy for our imaginations to be occupied with science fiction,

Não admira, a nossa imaginação encheu-se de ficção científica,

well, over the last 100 years.

durante os últimos 100 anos.

I say AI and you think "The Terminator."

Eu falo em IA e vocês pensam “O exterminador”.

Somewhere, for us, making the connection between AI and the built world,

De certo modo, para nós, fazer a ligação entre a IA e o mundo real,

that's a harder story to tell.

é uma história mais difícil de contar.

But the reality is AI is already everywhere around us.

Mas a realidade é que a IA já está por toda a parte, à nossa volta.

And in many places.

E em muitos locais.

It's in buildings and in systems.

Está nos edifícios e nos sistemas.

More than 200 years of industrialization

Mais de 200 anos de industrialização

suggest that AI will find its way to systems-level scale relatively easily.

sugerem que a IA encontra o seu caminho facilmente

a uma escala a nível dos sistemas

After all, one telling of that history

Afinal, uma versão desta história

suggests that all you have to do is find a technology,

sugere que só temos de encontrar uma tecnologia,

achieve scale and revolution will follow.

uma escala ativa e a revolução ocorrerá.

The story of mechanization, automation and digitization

Na história da mecanização, da automação e da digitalização

all point to the role of technology and its importance.

tudo aponta para o papel da tecnologia e da sua importância.

Those stories of technological transformation

Estas histórias de transformação tecnológica

make scale seem, well, normal.

parecem tornar normal a escala,

Or expected.

ou expectável

And stable.

e estável.

And sometimes even predictable.

Por vezes mesmo previsível.

Mas também põe o foco diretamente na tecnologia e na mudança de tecnologia.

But it also puts the focus squarely on technology and technology change.

But I believe that scaling a technology and building a system

Eu creio que dimensionar uma tecnologia e criar um sistema

requires something more.

exige mais qualquer coisa.

We founded the 3Ai Institute at the Australian National University

Fundámos o 3AI Institute na Universidade Nacional Australiana

in September 2017.

em setembro de 2017.

It has one deceptively simple mission:

Tem uma missão ilusoriamente simples:

to establish a new branch of engineering

instituir um novo ramo da engenharia

to take AI safely, sustainably and responsibly to scale.

para implementar a IA de forma segura, sustentável e responsável.

But how do you build a new branch of engineering in the 21st century?

Mas como criamos um novo ramo da engenharia no século XXI?

Well, we're teaching it into existence

Estamos a ensiná-lo a existir

through an experimental education program.

através dum programa de educação experimental.

We're researching it into existence

Estamos a investigá-lo onde ele existe

with locations as diverse as Shakespeare's birthplace,

em locais diversificados, como o local de nascimento de Shakespeare,

the Great Barrier Reef,

a Grande Barreira de Coral,

not to mention one of Australia's largest autonomous mines.

para não falar de uma das maiores minas autónomas da Austrália.

And we're theorizing it into existence,

E estamos a teorizar a sua existência,

paying attention to the complexities of cybernetic systems.

prestando atenção às complexidades dos sistemas cibernéticos.

We're working to build something new and something useful.

Estamos a trabalhar para criar uma coisa nova e uma coisa útil,

Something to create the next generation of critical thinkers and critical doers.

uma coisa para criar a próxima geração de pensadores e fazedores críticos.

And we're doing all of that

E estamos a fazer tudo isso

through a richer understanding of AI's many pasts and many stories.

através duma compreensão mais rica dos passados e das muitas histórias da IA.

And by working collaboratively and collectively

Trabalhando colaborativamente e coletivamente

através do ensino, da investigação e do envolvimento

through teaching and research and engagement,

and by focusing as much on the framing of the questions

e concentrando-nos tanto no enquadramento das questões

as the solving of the problems.

como na solução dos problemas.

We're not making a single AI,

Não estamos a fazer uma IA única,

we're making the possibilities for many.

estamos a criar as possibilidades para muitas.

And we're actively working to decolonize our imaginations

Estamos a trabalhar ativamente para descolonizar a nossa imaginação

and to build a curriculum and a pedagogy

e criar um programa e uma pedagogia

that leaves room for a range of different conversations and possibilities.

que dê espaço a uma gama de diversos debates e possibilidades.

We are making and remaking.

Estamos a fazer e a refazer.

And I know we're always a work in progress.

Sei que somos sempre um trabalho em progresso.

But here's a little glimpse

Mas este é um vislumbre

into how we're approaching that problem of scaling a future.

de como estamos a aproximar-nos desse problema da escala do futuro.

We start by making sure we're grounded in our own history.

Começamos por assegurar que nos baseamos na nossa história.

In December of 2018,

Em dezembro de 2018,

I took myself up to the town of Brewarrina

fui à cidade de Brewarrina

na fronteira entre Queensland e Nova Gales do Sul.

on the New South Wales-Queensland border.

This place was a meeting place for Aboriginal people,

Este local era um local de encontro dos povos aborígenes,

for different groups,

para diferentes grupos se reunirem,

to gather, have ceremonies, meet, to be together.

realizarem cerimónias, encontrarem-se, estarem juntos.

There, on the Barwon River, there's a set of fish weirs

Ali, no Rio Barwon, há um conjunto de açudes de pesca

that are one of the oldest and largest systems

que são um dos sistemas maiores e mais antigos

of Aboriginal fish traps in Australia.

das armadilhas aborígenes para peixes, da Austrália.

This system is comprised of 1.8 kilometers of stone walls

Este sistema engloba 1,8 quilómetros de muros de pedra

shaped like a series of fishnets

com uma disposição idêntica a redes de pesca

with the "Us" pointing down the river,

com os “us” a apontar para baixo, para o rio,

allowing fish to be trapped at different heights of the water.

de modo a aprisionarem os peixes em diferentes alturas da água.

They're also fish holding pens with different-height walls for storage,

Também há armadilhas para peixe com muros de diferentes alturas,

designed to change the way the water moves

destinados a alterar a forma como a água corre

and to be able to store big fish and little fish

e poder reter peixes grandes e pequenos

and to keep those fish in cool, clear running water.

e manter esses peixes em água corrente, limpa e fresca.

Este sistema de armadilhas garantia que podiam alimentar as pessoas

This fish-trap system was a way to ensure that you could feed people

as they gathered there in a place that was both a meeting of rivers

visto que se situava num local que era um encontro de rios

and a meeting of cultures.

e um encontro de culturas.

It isn't about the rocks or even the traps per se.

Não se trata de rochas nem sequer de armadilhas, per se.

It is about the system that those traps created.

Trata-se do sistema que essas armadilhas criaram.

One that involves technical knowledge,

Um sistema que envolve conhecimento técnico,

cultural knowledge

conhecimento cultural e conhecimento ecológico.

and ecological knowledge.

This system is old.

Este sistema é antigo.

Some archaeologists think it's as old as 40,000 years.

Alguns arqueólogos pensam que tem uns 40 000 anos.

The last time we have its recorded uses is in the nineteen teens.

A última vez que temos um registo de uso foi na década de 1910.

It's had remarkable longevity and incredible scale.

Teve uma longevidade notável e numa escala fantástica.

And it's an inspiration to me.

E para mim é uma inspiração.

And a photo of the weir is on our walls here at the Institute,

Temos aqui nas paredes do Instituto uma foto do açude

to remind us of the promise and the challenge

que nos lembra a promessa e o desafio de criar uma coisa com significado.

of building something meaningful.

And to remind us that we're building systems

Que nos lembra que estamos a criar sistemas

in a place where people have built systems

num local onde as pessoas criaram sistemas

and sustained those same systems for generations.

e sustentaram esses mesmos sistemas durante gerações.

It isn't just our history,

Não se trata só da nossa história, trata-se do nosso legado,

it's our legacy as we seek to establish a new branch of engineering.

à medida que tentamos instituir um novo ramos de engenharia.

To build on that legacy and our sense of purpose,

Penso que, para criar nesse legado e com o nosso sentido de objetivo,

I think we need a clear framework for asking questions about the future.

precisamos dum enquadramento nítido para fazer perguntas sobre o futuro.

Questions for which there aren't ready or easy answers.

Perguntas para as quais não há respostas prontas ou fáceis.

Here, the point is the asking of the questions.

Aqui, a questão é fazer perguntas.

We believe you need to go beyond the traditional approach

Acreditamos que precisamos de passar da abordagem tradicional

of problem-solving,

de solução de problemas,

to the more complicated one of question asking

para uma abordagem mais complicada

and question framing.

de fazer perguntas e enquadrar questões.

Because in so doing, you open up all kinds of new possibilities

Porque, ao fazer isso, abrimos todos os tipos de nova possibilidades

and new challenges.

e de novos desafios.

For me, right now,

Para mim, neste momento,

there are six big questions that frame our approach

há seis grandes questões que enquadram a nossa abordagem

for taking AI safely, sustainably and responsibly to scale.

para levar a IA a esplhar-se com segurança,

de forma sustentável e responsável.

Questions about autonomy,

Questões sobre autonomia, intervenção, confiança,

agency, assurance,

indicators, interfaces and intentionality.

indicadores, interfaces e intencionalidade,

The first question we ask is a simple one.

A primeira pergunta que fazemos é uma pergunta simples.

Is the system autonomous?

O sistema é autónomo?

Think back to that lift on Bligh Street.

Pensem naquele elevador na Bligh Street.

The reality is, one day, that lift may be autonomous.

A realidade é que, um dia, aquele elevador pode ser autónomo.

Which is to say it will be able to act without being told to act.

Ou seja, poderá agir sem lhe dizerem para agir.

But it isn't fully autonomous, right?

Mas não é totalmente autónomo.

It can't leave that Bligh Street building

Não pode sair do edifício da Bligh Street

and wonder down to Circular Quay for a beer.

e descer a Circular Quay para ir beber uma cerveja.

It goes up and down, that's all.

Sobe e desce e é tudo.

But it does it by itself.

Mas fá-lo por si mesmo.

It's autonomous in that sense.

É autónomo nesse sentido.

The second question we ask:

A segunda pergunta que fazemos é:

does this system have agency?

Este sistema tem capacidade de ação?

Does this system have controls and limits that live somewhere

Este sistema tem controlos e limites algures

that prevent it from doing certain kinds of things under certain conditions.

que o impedem de fazer determinado tipo de coisas, segundo certas condições.

The reality with lifts, that's absolutely the case.

O que acontece com os elevadores é exatamente isso.

Think of any lift you've been in.

Pensem num elevador que já utilizaram.

There's a red keyslot in the elevator carriage

Há uma ranhura vermelha na cabine do elevador

that an emergency services person can stick a key into

onde uma pessoa dos serviços de emergência pode enfiar uma chave

and override the whole system.

e cancelar todo o sistema.

But what happens when that system is AI-driven?

Mas o que acontece quando o sistema é gerido pela IA?

Where does the key live?

Onde está essa chave?

Is it a physical key, is it a digital key?

É uma chave física, é uma chave digital?

Who gets to use it?

Quem é que a pode usar?

Is that the emergency services people?

São pessoas dos serviços de emergência?

And how would you know if that was happening?

Como é que sabemos se isso acontecer?

How would all of that be manifested to you in the lift?

Como é que tudo isso se manifesta dentro do elevador?

The third question we ask is how do we think about assurance.

A terceira pergunta que fazemos é como pensamos na confiança.

How do we think about all of its pieces:

Como é que pensamos em todas as peças:

safety, security, trust, risk, liability, manageability,

segurança, confiança, riscos, responsabilidade, viabilidade,

explicability, ethics, public policy, law, regulation?

explicabilidade, ética, política pública, leis, regulamentos?

And how would we tell you that the system was safe and functioning?

Como vos diremos que o sistema é seguro e funcional?

The fourth question we ask

A quarta pergunta que fazemos

is what would be our interfaces with these AI-driven systems.

é quais serão as interfaces com estes sistemas geridos pela IA.

Will we talk to them?

Falaremos com eles?

Will they talk to us, will they talk to each other?

Falarão connosco, falarão uns com os outros?

And what will it mean to have a series of technologies we've known,

E o que significará ter uma série de tecnologias

for some of us, all our lives,

que conhecemos toda a vida

now suddenly behave in entirely different ways?

e de repente se comportam de forma totalmente diferente?

Lifts, cars, the electrical grid, traffic lights, things in your home.

Elevadores, carros, rede elétrica, semáforos, coisas na nossa casa.

The fifth question for these AI-driven systems:

A quinta pergunta para estes sistemas geridos pela IA:

What will the indicators be to show that they're working well?

Quais serão os indicadores que mostram estar a funcionar bem?

Two hundred years of the industrial revolution

Duzentos anos de revolução industrial

tells us that the two most important ways to think about a good system

dizem-nos que as duas formas mais importantes de pensar num bom sistema

are productivity and efficiency.

são a produtividade e a eficiência.

In the 21st century,

No século XXI, podemos querer expandir isso um pouco.

you might want to expand that just a little bit.

O sistema é sustentável?

Is the system sustainable,

is it safe, is it responsible?

É seguro, é responsável?

Who gets to judge those things for us?

Quem vai avaliar essas coisas?

Users of the systems would want to understand

Os utilizadores dos sistemas podem querer perceber

how these things are regulated, managed and built.

como é que as coisas são regulamentadas, geridas e construídas.

And then there's the final, perhaps most critical question

E há uma última pergunta, talvez a mais crítica

that you need to ask of these new AI systems.

que precisamos de fazer a estes novos sistemas de IA.

What's its intent?

Qual é a sua intenção?

What's the system designed to do

Qual o objetivo da criação do sistema e quem disse que era uma boa ideia?

and who said that was a good idea?

Or put another way,

Ou, dito de outra forma,

what is the world that this system is building,

que tipo de mundo é que este sistema está a construir,

how is that world imagined,

como é que foi imaginado esse mundo

and what is its relationship to the world we live in today?

e qual é a sua relação com o mundo em que vivemos hoje?

Who gets to be part of that conversation?

Quem é que faz parte desse debate?

Who gets to articulate it?

Quem o vai exprimir?

How does it get framed and imagined?

Como é que é enquadrado e imaginado?

There are no simple answers to these questions.

Não há respostas simples a estas perguntas.

Instead, they frame what's possible

Em vez disso, elas enquadram

and what we need to imagine,

o que é possível e o que precisamos de imaginar,

design, build, regulate and even decommission.

conceber, construir, regulamentar e até desativar.

They point us in the right directions

Indicam-nos a direção certa

and help us on a path to establish a new branch of engineering.

e ajudam-nos numa via de instaurar um novo ramo da engenharia.

But critical questions aren't enough.

Mas perguntas críticas não bastam.

You also need a way of holding all those questions together.

Também precisamos de uma forma de conciliar todas estas perguntas.

For us at the Institute,

Para nós, no Instituto,

we're also really interested in how to think about AI as a system,

também estamos muito interessados em como pensar na IA enquanto sistema,

and where and how to draw the boundaries of that system.

e onde e como traçar os limites desse sistema.

And those feel like especially important things right now.

Esses limites são especialmente importantes neste momento.

Here, we're influenced by the work that was started way back in the 1940s.

Somos influenciados pelo trabalho que foi iniciado nos anos 40.

In 1944, along with anthropologists Gregory Bateson and Margaret Mead,

Em 1944, juntamente com os antropólogos Gregory Bateson e Margaret Mead,

mathematician Norbert Wiener convened a series of conversations

o matemático Norbert Wiener organizou uma série de debates

that would become known as the Macy Conferences on Cybernetics.

que ficaram conhecidos como as Conferências Macy sobre Cibernética.

Ultimately, between 1946 and 1953,

Posteriormente, entre 1946 e 1953,

ten conferences were held under the banner of cybernetics.

realizaram-se 10 conferências sob a bandeira da cibernética.

As defined by Norbert Wiener,

Conforme definido por Norbert Wiener,

cybernetics sought to "develop a language and techniques

a cibernética procurava “desenvolver uma linguagem e técnicas

that will enable us to indeed attack the problem of control and communication

“que nos permitissem atacar o problema do controlo e da comunicação

in advanced computing technologies."

“nas tecnologias informáticas avançadas”.

Cybernetics argued persuasively

A cibernética defendia persuasivamente

that one had to think about the relationship

que era necessário pensar na relação

between humans, computers

entre seres humanos, computadores

and the broader ecological world.

e o mundo ecológico mais alargado.

You had to think about them as a holistic system.

Era preciso pensar neles enquanto um sistema abrangente.

Participants in the Macy Conferences were concerned with how the mind worked,

Os participantes nas Conferências Macy estavam preocupados

com o funcionamento do espírito, da inteligência e da aprendizagem,

with ideas about intelligence and learning,

and about the role of technology in our future.

e com o papel da tecnologia no futuro.

Sadly, the conversations that started with the Macy Conference

Lamentavelmente, os debates que se iniciaram com a Conferências Macy

are often forgotten when the talk is about AI.

são esquecidos quando se fala da IA.

But for me, there's something really important to reclaim here

Mas, para mim, há uma coisa muito importante a sublinhar

about the idea of a system that has to accommodate culture,

sobre a ideia de um sistema que tem de ter em conta

technology and the environment.

a cultura, a tecnologia e o ambiente.

At the Institute, that sort of systems thinking is core to our work.

No Instituto, este tipo de pensar nos sistemas é o cerne do nosso trabalho.

Over the last three years,

Nos últimos três anos,

a whole collection of amazing people have joined me here

juntaram-se a mim uma série de pessoas fantásticas

on this crazy journey to do this work.

neste percurso louco para fazer este trabalho.

Our staff includes anthropologists,

A nossa equipa inclui antropólogos,

systems and environmental engineers, and computer scientists

engenheiros de sistemas e do ambiente, cientistas informáticos,

as well as a nuclear physicist,

assim como físicos nucleares,

an award-winning photo journalist,

um fotojornalista premiado

and at least one policy and standards expert.

e, pelo menos um especialista em políticas e normas.

It's a heady mix.

É uma miscelânea estonteante.

And the range of experience and expertise is powerful,

E a gama de experiências e de especialidades é poderosa,

as are the conflicts and the challenges.

tal como os conflitos e os desafios.

Esta diversificação exige uma determinação constante

Being diverse requires a constant willingness

to find ways to hold people in conversation.

para encontrar formas de manter as pessoas num debate,

And to dwell just a little bit with the conflict.

e lidar um pouco com o conflito,

We also worked out early

Também ficou estabelecido logo de início

that the way to build a new way of doing things

que a forma de criar uma nova forma de fazer coisas

would require a commitment to bringing others along on that same journey with us.

exigia um empenho de atrair outros para o mesmo percurso que nós.

So we opened our doors to an education program very quickly,

Assim, cedo abrimos a porta a um programa de educação

and we launched our first master's program in 2018.

e lançámos o primeiro programa de mestrado em 2018.

Since then, we've had two cohorts of master's students

Desde aí, tivemos dois grupos de estudantes de mestrado

and one cohort of PhD students.

e um grupo de estudantes de doutoramento.

Our students come from all over the world

Esses estudantes são provenientes do mundo inteiro e de todo o tipo de vida.

and all over life.

Australia, New Zealand, Nigeria, Nepal,

Austrália, Nova Zelândia, Nigéria, Nepal,

Mexico, India, the United States.

México, Índia, EUA.

And they range in age from 23 to 60.

E variam entre 23 a 60 anos.

They variously had backgrounds in maths and music,

Têm conhecimentos diversos em matemática e música,

em política e representação,

policy and performance,

systems and standards,

em sistemas e normas,

architecture and arts.

em arquitetura e artes.

Before they joined us at the Institute,

Antes de se juntarem a nós no Instituto,

they ran companies, they worked for government,

dirigiam empresas, trabalhavam para o governo,

served in the army, taught high school,

serviam no exército, ensinavam nas universidades,

and managed arts organizations.

e geriam organizações de artes.

They were adventurers

Eram aventureiros,

and committed to each other,

e comprometidos uns com os outros,

and to building something new.

empenhados em criar uma coisa nova.

And really, what more could you ask for?

Na verdade, que mais podíamos pedir?

Because although I've spent 20 years in Silicon Valley

Porque, embora tenhamos passado 20 anos em Silicon Valley

and I know the stories about the lone inventor

e eu conheço as histórias sobre o inventor solitário

and the hero's journey,

e sobre a jornada do herói,

I also know the reality.

também conheço a realidade.

That it's never just a hero's journey.

Nunca é a jornada de um só herói.

It's always a collection of people who have a shared sense of purpose

É sempre um grupo de pessoas que têm um sentimento comum de objetivo

who can change the world.

que pode mudar o mundo.

So where do you start?

Então, por onde é que vocês começam?

Well, I think you start where you stand.

Penso que começam onde se encontram.

And for me, that means I want to acknowledge

Para mim, isso significa que eu quero agradecer

the traditional owners of the land upon which I'm standing.

aos tradicionais donos da terra onde me encontro,

The Ngunnawal and Ngambri people,

os povos Ngunnawal e Ngambri.

this is their land,

Esta é a terra deles, nunca cedida, sempre sagrada.

never ceded, always sacred.

Apresento os meus respeitos aos mais velhos,

And I pay my respects to the elders, past and present, of this place.

ao passado e ao presente, deste local.

I also acknowledge that we're gathering today

Também quero referir que nos reunimos hoje em muitos outros locais

in many other places,

and I pay my respects to the traditional owners and elders

e apresento os meus respeitos aos tradicionais donos

of all those places too.

e mais velhos de todos esses locais.

It means a lot to me to get to say those words

Significa muito para mim poder dizer estas palavras

and to dwell on what they mean and signal.

e estar presa ao que elas significam e assinalam.

And to remember that we live in a country

E recordar que vivemos num país

that has been continuously occupied for at least 60,000 years.

que tem sido continuamente ocupado durante pelo menos 60 000 anos.

Aboriginal people built worlds here,

Os povos aborígenes criaram mundos aqui,

they built social systems, they built technologies.

criaram sistemas sociais, criaram tecnologias

They built ways to manage this place

Criaram formas de gerir este local

and to manage it remarkably over a protracted period of time.

e geri-lo durante um dilatado período de tempo.

And every moment any one of us stands on a stage as Australians,

Sempre que qualquer um de nós sobe a um palco como australiano,

here or abroad,

aqui ou no estrangeiro,

we carry with us a privilege and a responsibility

transportamos um privilégio e uma responsabilidade

because of that history.

por causa dessa história.

And it's not just a history.

Não é uma história qualquer,

It's also an incredibly rich set of resources,

também é um conjunto de recursos extremamente rico,

worldviews and knowledge.

de visões do mundo e de conhecimentos.

And it should run through all of our bones

E devia correr em todos os nossos ossos

and it should be the story we always tell.

e devia ser a história que sempre contamos.

Ultimately, it's about thinking differently,

Por fim, trata-se de pensar de forma diferente,

asking different kinds of questions,

de fazer diferentes tipos de perguntas,

looking holistically at the world and the systems,

de olhar de forma abrangente para o mundo e para os sistemas,

and finding other people who want to be on that journey with you.

e encontrar outras pessoas que querem fazer este percurso connosco.

Because for me,

Porque, para mim,

the only way to actually think about the future and scale

a única forma de pensar sobre o futuro e a escala

is to always be doing it collectively.

é fazê-lo sempre coletivamente.

And because for me,

Porque, para mim,

the notion of humans in it together

a noção de seres humanos juntos nisto

is one of the ways we get to think about things

é uma das formas que temos de pensar nas coisas

that are responsible, safe

que são responsáveis, seguras

and ultimately, sustainable.

e, afinal de contas, sustentáveis.

Thank you.

Obrigada