6 big ethical questions about the future of AI | Genevieve Bell

Tradutor: Maria Luiza França Nascimento Revisor: Wanderley Jesus

Deixe-me contar uma história sobre inteligência artificial.

Há um prédio em Sydney, na rua 1 Bligh.

Ele detém vários apartamentos do governo

Let me tell you a story about artificial intelligence.

e pessoas ocupadas.

Do lado de fora, ele parece algo saído de uma ficção científica americana:

There's a building in Sydney at 1 Bligh Street.

com todos os vidros brilhantes e linhas curvas,

It houses lots of government apartments

and busy people.

e uma escultura laranja.

From the outside, it looks like something out of American science fiction:

Do lado de dentro, há um ótimo café no andar do térreo

all gleaming glass and curved lines,

e meus elevadores favoritos em Sydney.

Eles são lindos,

and a piece of orange sculpture.

parecem estar quase vivos.

On the inside, it has excellent coffee on the ground floor

E na verdade eu sou fascinada por elevadores.

Por vários motivos.

and my favorite lifts in Sydney.

Mas porque elevadores são um dos lugares em que você vê o futuro.

They're beautiful;

they look almost alive.

No século 21, elevadores são interessantes

And it turns out I'm fascinated with lifts.

pois são um dos primeiros lugares onde a Inteligência Artifical te alcança

For lots of reasons.

But because lifts are one of the places you can see the future.

sem você nem perceber.

In the 21st century, lifts are interesting

Em diversos prédios ao redor do mundo,

because they're one of the first places that AI will touch you

os elevadores executam um conjunto de algoritmos.

Uma forma de inteligência protoartificial.

without you even knowing it happened.

In many buildings all around the world,

Isso significa que antes mesmo de você ir até o elevador apertar o botão,

the lifts are running a set of algorithms.

ele antecipa que você estará lá.

A form of protoartificial intelligence.

Já está reorganizando todas as carruagens.

That means before you even walk up to the lift to press the button,

Sempre descendo, para poupar energia,

e para saber onde o tráfego estará.

it's anticipated you being there.

No momento em que você realmente aperta o botão,

It's already rearranging all the carriages.

você já faz parte de todo um sistema

que dá sentido às pessoas e ao ambiente,

Always going down, to save energy,

and to know where the traffic is going to be.

e ao prédio e ao mundo construído.

By the time you've actually pressed the button,

Eu sei que ao falar sobre IA, geralmente falamos de um mundo de robôs.

you're already part of an entire system

that's making sense of people and the environment

É fácil para nossa imaginação se ocupar com ficção científica,

and the building and the built world.

ao longo dos últimos 100 anos.

I know when we talk about AI, we often talk about a world of robots.

Eu digo IA, você pensa em “O Exterminador do Futuro”.

It's easy for our imaginations to be occupied with science fiction,

De alguma forma, para nós, fazer conexões entre IA e o mundo real

well, over the last 100 years.

já é um assunto mais complicado.

I say AI and you think "The Terminator."

Mas a realidade é que a IA já está em tudo ao nosso redor.

Somewhere, for us, making the connection between AI and the built world,

E em vários lugares.

Está em prédios e em sistemas.

that's a harder story to tell.

Mais de 200 anos de industrialização

But the reality is AI is already everywhere around us.

sugerem que a IA encontrará sua expansão a nível de sistemas relativamente fácil.

And in many places.

It's in buildings and in systems.

Afinal, uma parte dessa história

More than 200 years of industrialization

sugere que tudo que você precisa é encontrar uma tecnologia,

suggest that AI will find its way to systems-level scale relatively easily.

alcançar grande escala e a revolução virá.

As histórias da mecanização, automação e digitalização

After all, one telling of that history

suggests that all you have to do is find a technology,

apontam para o papel da tecnologia e sua importância.

achieve scale and revolution will follow.

The story of mechanization, automation and digitization

Essas histórias de transformação tecnológica

fazem a expansão parecer normal.

all point to the role of technology and its importance.

Ou esperada.

E estável.

E às vezes até previsível.

Those stories of technological transformation

make scale seem, well, normal.

Mas também foca diretamente na tecnologia e na mudança tecnológica.

Or expected.

And stable.

Mas eu acredito que exandir uma tecnologia e construir um sistema

And sometimes even predictable.

requer algo a mais.

But it also puts the focus squarely on technology and technology change.

Nós fundamos o Instituto 3Ai na Universidade Nacional da Australia

But I believe that scaling a technology and building a system

em setembro de 2017.

requires something more.

Com uma missão aparentemente simples:

We founded the 3Ai Institute at the Australian National University

estabelecer um novo ramo da engenharia

para expandir a IA com segurança, sustentabilidade e responsabilidade.

in September 2017.

It has one deceptively simple mission:

Mas como você constrói um novo ramo da engenharia no século 21?

to establish a new branch of engineering

Bem, estamos ensinando isso a existir

to take AI safely, sustainably and responsibly to scale.

através de um programa educacional experimental.

But how do you build a new branch of engineering in the 21st century?

Estamos pesquisando sua existência

em locais tão diversos quanto o de nascimento de Shakespeare,

Well, we're teaching it into existence

through an experimental education program.

a Grande Barreira de Corais,

além de uma das maiores minas autônomas da Austrália.

We're researching it into existence

with locations as diverse as Shakespeare's birthplace,

E estamos teorizando sua existência,

prestando atenção em complexidades de sistemas cibernéticos.

the Great Barrier Reef,

not to mention one of Australia's largest autonomous mines.

Estamos trabalhando em algo novo e em algo útil.

And we're theorizing it into existence,

Algo para criar uma futura geração de pensadores e executores críticos.

paying attention to the complexities of cybernetic systems.

E estamos fazendo tudo isso

We're working to build something new and something useful.

através de um rico entendimento das diversas partes e histórias da IA.

Something to create the next generation of critical thinkers and critical doers.

E trabalhando de forma colaborativa e coletiva,

And we're doing all of that

através de ensino e pesquisa, engajamento,

through a richer understanding of AI's many pasts and many stories.

e focando tanto na identificação das questões

And by working collaboratively and collectively

quanto na resolução dos problemas.

through teaching and research and engagement,

Não estamos fazendo uma única IA,

estamos gerando a possibilidade de várias.

and by focusing as much on the framing of the questions

E trabalhando ativamente para decolonizar nossa imaginação

as the solving of the problems.

e construir um currículo e pedagogia

We're not making a single AI,

we're making the possibilities for many.

que abram espaço para uma gama de conversas e possibilidades diferentes.

And we're actively working to decolonize our imaginations

Nós estamos fazendo e refazendo.

and to build a curriculum and a pedagogy

E eu sei que seremos sempre um trabalho em progresso.

that leaves room for a range of different conversations and possibilities.

Aqui está um pequeno vislumbre

de como estamos abordando o problema de dimensionar um futuro.

We are making and remaking.

And I know we're always a work in progress.

Começamos tendo certeza de que estamos fundamentados em nossa própria história.

But here's a little glimpse

into how we're approaching that problem of scaling a future.

Em dezembro de 2018,

eu fui para a cidade de Brewarrina

a fronteira de Nova Gales do Sul e Queensland.

We start by making sure we're grounded in our own history.

O lugar foi ponto de encontro para povos Aborígenes,

In December of 2018,

de diferentes grupos,

I took myself up to the town of Brewarrina

reunir, fazer cerimônias, se encontrar, estar juntos.

on the New South Wales-Queensland border.

Lá, no rio Barwon, tem uma armadilha para peixes

This place was a meeting place for Aboriginal people,

que é um dos maiores e mais antigos sistemas

for different groups,

to gather, have ceremonies, meet, to be together.

de armadilhas para peixes dos Aborígenes na Austrália.

O sistema é feito de 1,8 km de barreiras de pedras

There, on the Barwon River, there's a set of fish weirs

that are one of the oldest and largest systems

em forma de redes para peixes

com “Us” apontando rio abaixo

of Aboriginal fish traps in Australia.

permitindo que os peixes fiquem presos em diferentes níveis da água.

This system is comprised of 1.8 kilometers of stone walls

Há também gaiolas com grades de alturas diferentes para armazenamento

shaped like a series of fishnets

with the "Us" pointing down the river,

desenvolvidaa para mudar a maneira que a água se move

allowing fish to be trapped at different heights of the water.

e para pescar peixes grandes e pequenos

e mantê-los em água limpa e corrente.

They're also fish holding pens with different-height walls for storage,

designed to change the way the water moves

O sistema de armadilhas para peixes foi uma maneira de alimentar as pessoas

and to be able to store big fish and little fish

enquanto elas se juntam em um lugar que é um encontro de rios

and to keep those fish in cool, clear running water.

e de culturas.

Não é sobre as pedras, ou mesmo sobre as armadilhas em si.

This fish-trap system was a way to ensure that you could feed people

as they gathered there in a place that was both a meeting of rivers

É sobre o sistema que as armadilhas criaram.

and a meeting of cultures.

Um que envolve conhecimento técnico,

It isn't about the rocks or even the traps per se.

conhecimento cultural

e conhecimento ecológico.

It is about the system that those traps created.

Esse sistema é antigo.

Alguns arqueólogos acreditam que tenha 40 mil anos de idade.

One that involves technical knowledge,

cultural knowledge

A última vez que nós tivemos o uso registrado foi na década de dezenove.

and ecological knowledge.

This system is old.

Ele teve uma longevidade maarcante e uma escala incrível.

Some archaeologists think it's as old as 40,000 years.

The last time we have its recorded uses is in the nineteen teens.

E é uma inspiração para mim.

E uma foto da represa está nas paredes aqui no Instituto,

It's had remarkable longevity and incredible scale.

para lembrar-nos da promessa e nos desafiando

And it's an inspiration to me.

a construir algo significativo.

E para nos lembrar que estamos construindo sistemas

And a photo of the weir is on our walls here at the Institute,

em um lugar onde pessoas construiram sistemas

to remind us of the promise and the challenge

e sustentaram esses mesmos sistemas por gerações.

of building something meaningful.

Não só nossa história,

And to remind us that we're building systems

é nosso legado enquanto tentamos estabelecer um novo ramo da engenharia.

in a place where people have built systems

and sustained those same systems for generations.

Para construir esse legado e nosso senso de propósito,

It isn't just our history,

eu acredito que precisamos de uma visão clara para nos questionar sobre o futuro.

it's our legacy as we seek to establish a new branch of engineering.

Perguntas para as quais não existem respostas prontas e rápidas.

To build on that legacy and our sense of purpose,

Aqui, o ponto é fazer as perguntas.

I think we need a clear framework for asking questions about the future.

Nós acreditamos que precisamos ir além da abordagem tradicional

Questions for which there aren't ready or easy answers.

de resolver problemas,

para a mais complicada de fazer perguntas

Here, the point is the asking of the questions.

e construir perguntas.

We believe you need to go beyond the traditional approach

Porque fazendo isso, você abre a todos os tipos de novas possibilidades

of problem-solving,

to the more complicated one of question asking

e novos desafios.

Para mim, agora,

and question framing.

existem seis grandes perguntas que enquadram nossa abordagem

Because in so doing, you open up all kinds of new possibilities

para levar a IA segura, sustentável e responsavelmente a escala.

and new challenges.

For me, right now,

Perguntas sobre autonomia,

agentes, garantias,

there are six big questions that frame our approach

indicadores, interfaces e intencionalidade

for taking AI safely, sustainably and responsibly to scale.

A primeira pergunta que nós fazemos é simples.

Questions about autonomy,

agency, assurance,

O sistema é autônomo?

indicators, interfaces and intentionality.

Voltemos àquele elevador na Bligh Street.

A realidade é, um dia, aquele elevador pode ser autônomo.

The first question we ask is a simple one.

Quer dizer que ele vai poder agir sem ter recebidos ordens para agir.

Is the system autonomous?

Think back to that lift on Bligh Street.

Mas não é totalmente autônomo, certo?

The reality is, one day, that lift may be autonomous.

Ele não pode deixar aquele prédio na Bligh Street

Which is to say it will be able to act without being told to act.

e não pode descer para o Circular Quay para tomar uma cerveja.

Ele vai para cima e para baixo, isso é tudo.

But it isn't fully autonomous, right?

Mas faz isso sozinho.

It can't leave that Bligh Street building

and wonder down to Circular Quay for a beer.

É autônomo nesse sentido.

A segunda pergunta que fazemos é:

It goes up and down, that's all.

esse sistema tem um agente?

But it does it by itself.

It's autonomous in that sense.

Esse sistema tem controles e limites que moram em algum lugar

The second question we ask:

que previne que ele faça certas coisa sob certas condições.

does this system have agency?

Does this system have controls and limits that live somewhere

O exemplo com elevadores, é absolutamente o caso.

Pense em qualquer elevador que você tenha estado.

that prevent it from doing certain kinds of things under certain conditions.

Tem uma fechadura vermelha na cabine do elevador

que o serviço de emergência pode colocar uma chave

The reality with lifts, that's absolutely the case.

e reiniciar todo o sistema.

Think of any lift you've been in.

Mas o que acontece com um sistema comandado por uma IA?

There's a red keyslot in the elevator carriage

Onde a chave fica?

that an emergency services person can stick a key into

É uma chave física, é uma chave digital?

and override the whole system.

Quem pode usá-la?

O serviço de emergência?

But what happens when that system is AI-driven?

E como você saberia o que estava acontecendo?

Where does the key live?

Como tudo isso se manifestaria em seu elevador?

Is it a physical key, is it a digital key?

Who gets to use it?

Is that the emergency services people?

A terceira questão que fazemos é como pensamos em garantias.

And how would you know if that was happening?

How would all of that be manifested to you in the lift?

Como pensamos em todas essas peças:

confiabilidade, segurança, confiança, risco, responsabilidade, manuseio,

The third question we ask is how do we think about assurance.

explicabilidade, ética políticas públicas, leis, regulação?

How do we think about all of its pieces:

safety, security, trust, risk, liability, manageability,

E como falariamos a você que o sistema é seguro e funcional?

explicability, ethics, public policy, law, regulation?

A quarta pergunta que fazemos

é quais seriam nossas interfaces com todos esses sistemas de IA.

And how would we tell you that the system was safe and functioning?

Nós falaríamos com eles?

Eles falariam conosco, ou uns com os outros?

The fourth question we ask

E o que significaria uma série de tecnologias que nós conhecemos,

is what would be our interfaces with these AI-driven systems.

para alguns, toda uma vida,

de repente se comporta em maneiras completamente diferentes?

Will we talk to them?

Will they talk to us, will they talk to each other?

Elevadores, carros, rede de energia, sinais de trânsito, coisas na sua casa.

And what will it mean to have a series of technologies we've known,

for some of us, all our lives,

A quinta questão esses sistemas de IA:

now suddenly behave in entirely different ways?

Lifts, cars, the electrical grid, traffic lights, things in your home.

Quais seriam os indicadores para mostrar que eles estariam funcionando bem

200 anos da revolução industrial

The fifth question for these AI-driven systems:

nos dizem que as duas formas mais importantes para pensar sobre um sistema

What will the indicators be to show that they're working well?

são produtividade e eficiência.

Two hundred years of the industrial revolution

No século 21,

você pode quere expandir isso só mais um pouco.

tells us that the two most important ways to think about a good system

O sistema é sustentável,

é seguro, é responsável?

are productivity and efficiency.

Quem vai julgar essas coisas por nós?

In the 21st century,

you might want to expand that just a little bit.

Usuários do sistema gostariam de entender

Is the system sustainable,

como essas coisas são reguladas, gerenciadas e construidas.

is it safe, is it responsible?

Who gets to judge those things for us?

E depois o final, talvez a pergunta mais crítica

Users of the systems would want to understand

que você precisa fazer sobre todos esses sistemas de IA.

how these things are regulated, managed and built.

Qual é o objetivo?

And then there's the final, perhaps most critical question

O que o sistema é desenhado para fazer?

e quem disse que é uma boa ideia?

that you need to ask of these new AI systems.

Em outras palavras,

qual é o mundo que esse sistema está construindo,

What's its intent?

What's the system designed to do

como imagina esse mundo,

e qual é a relação com o mundo em que vivemos hoje?

and who said that was a good idea?

Or put another way,

what is the world that this system is building,

Quem tem lugar nesse debate?

Quem vai articular isso?

how is that world imagined,

Como isso é pensado?

and what is its relationship to the world we live in today?

Não existem respostas simples para essas perguntas.

Who gets to be part of that conversation?

Who gets to articulate it?

Em vez disso, eles imaginam o que é possível

How does it get framed and imagined?

e o que precisamos imaginar,

desenhar, construir, regular e até remover.

There are no simple answers to these questions.

Eles nos apontam a direção certa

Instead, they frame what's possible

e nos ajudam no caminho de estabelecer um novo ramo na engenharia.

and what we need to imagine,

design, build, regulate and even decommission.

Mas perguntas críticas não bastam.

They point us in the right directions

Você também precisa de uma forma de unir essas questões.

and help us on a path to establish a new branch of engineering.

But critical questions aren't enough.

Para nós no Instituto,

também estamos interessados em como pensaremos sobre a IA como sistema

You also need a way of holding all those questions together.

e onde e como delimitar esse sistema.

For us at the Institute,

we're also really interested in how to think about AI as a system,

E essas parecem especialmente importantes agora.

Aqui, somos influenciados pelo trabalho que foi iniciado na década de 40.

and where and how to draw the boundaries of that system.

And those feel like especially important things right now.

Em 1944, junto com os antropologistas Gregory Bateson e Margaret Mead,

Here, we're influenced by the work that was started way back in the 1940s.

o matemático Norbert Wiener convocou uma série de discussões

que se ficariam conhecidas como a Conferência Macy sobre Cibernética.

In 1944, along with anthropologists Gregory Bateson and Margaret Mead,

Ultimamente, entre 1946 e 1953,

mathematician Norbert Wiener convened a series of conversations

dez conferências foram conduzidas sob o tema da cibernética.

that would become known as the Macy Conferences on Cybernetics.

E definida por Norbert Wiener,

Ultimately, between 1946 and 1953,

que perseguia a ideia na cibernética de “desenvolver uma linguagem e técnicas

ten conferences were held under the banner of cybernetics.

que nos permitirão atacar o problema do controle e da comunicação

As defined by Norbert Wiener,

cybernetics sought to "develop a language and techniques

em tecnologias da computação avançadas.”

that will enable us to indeed attack the problem of control and communication

A cibernética argumentou persuasivamente

que era preciso pensar sobre a relação

entre humanos, computadores

in advanced computing technologies."

e o mundo ecológico em crescimento.

Cybernetics argued persuasively

Você tem que pensar neles como um sistema holístico.

that one had to think about the relationship

Participantes da conferência Macy estavam preocupados com o funcionamento da mente,

between humans, computers

and the broader ecological world.

com ideias sobre inteligência e aprendizado,

You had to think about them as a holistic system.

e sobre o papel da tecnologia no futuro.

Participants in the Macy Conferences were concerned with how the mind worked,

Infelizmente, as discussões que começaram com a Conferência Macy

são frequentemente esquecidas quando a conversa é sobre IA.

with ideas about intelligence and learning,

and about the role of technology in our future.

Mas para mim, existem coisas importantes a serem recuperadas aqui

Sadly, the conversations that started with the Macy Conference

sobre a ideia de um sistema que tem que acomodar cultura,

are often forgotten when the talk is about AI.

tecnologia e meio ambiente.

But for me, there's something really important to reclaim here

No Instituto, que alguns dos sistemas pensam é central do nosso trabalho.

about the idea of a system that has to accommodate culture,

Nos últimos anos,

technology and the environment.

toda uma coleção de pessoas maravilhosas se juntaram a mim aqui

At the Institute, that sort of systems thinking is core to our work.

nessa louca jornada para fazer isso funcionar.

Nossa equipe inclui antropólogos,

Over the last three years,

engenheros ambientais e de sistema, e cientistas da computação

a whole collection of amazing people have joined me here

on this crazy journey to do this work.

assim como um físico nuclear,

Our staff includes anthropologists,

e um fotógrafo jornalista premiado,

e pelo menos um especialista em estatística e política.

systems and environmental engineers, and computer scientists

É um mix estimulante.

as well as a nuclear physicist,

E a variedade de experiências e expertise é poderosa,

an award-winning photo journalist,

assim como os conflitos e desafios.

and at least one policy and standards expert.

Ser diversificado requer força de vontade constante

It's a heady mix.

para achar maneiras de manter as pessoas em diálogo.

And the range of experience and expertise is powerful,

E para lidar com um pouco de conflito.

as are the conflicts and the challenges.

Nós também descobrimos logo

Being diverse requires a constant willingness

que a forma de construir uma nova maneira de fazer as coisas

to find ways to hold people in conversation.

precisaria de comprometimento para trazer outros para a mesma jornada que nós.

And to dwell just a little bit with the conflict.

We also worked out early

Então abrimos as portas para um programa educacional muito rápido,

that the way to build a new way of doing things

e lançamos nosso primeiro programa de mestrado em 2018.

would require a commitment to bringing others along on that same journey with us.

Desde então, tivemos duas turmas de mestrado

So we opened our doors to an education program very quickly,

e uma turma de PhD.

Nossos alunos vêm de todos os lugares do mundo

and we launched our first master's program in 2018.

e da vida.

Since then, we've had two cohorts of master's students

Australia, Nova Zelândia, Nigéria, Nepal,

and one cohort of PhD students.

México, Índia e Estados Unidos.

Our students come from all over the world

E ele têm entre 23 e 60 anos.

and all over life.

Australia, New Zealand, Nigeria, Nepal,

Eles têm experiência desde matemática a música,

Mexico, India, the United States.

política e performance,

sistemas e estatística,

And they range in age from 23 to 60.

arquitetura e artes.

They variously had backgrounds in maths and music,

Antes de se juntarem a nós no Instituto,

eles dirigem companhias, trabalham para o governo,

policy and performance,

systems and standards,

servem ao exército, ensinam em escolas,

architecture and arts.

e gerenciam organizações artísticas.

Before they joined us at the Institute,

Eles eram aventureiros

they ran companies, they worked for government,

e se comprometeram uns com os outros,

served in the army, taught high school,

a contruir algo novo.

and managed arts organizations.

E sério, o que mais você poderia pedir?

They were adventurers

Embora eu tenha passado 20 anos no Vale do Silício

and committed to each other,

e sei as histórias sobre inventores solitários

and to building something new.

And really, what more could you ask for?

e a jornada de herói.

Eu também conheço a realidade.

Because although I've spent 20 years in Silicon Valley

Que nunca é apenas uma jornada de herói.

É sempre um conjunto de pessoas que compartilharam senso de propósito

and I know the stories about the lone inventor

and the hero's journey,

de quem pode mudar o mundo.

I also know the reality.

That it's never just a hero's journey.

Então por onde você começa?

It's always a collection of people who have a shared sense of purpose

Bem, eu acho que você começa de onde está.

E para mim, isso significa que quero reconhecer

who can change the world.

os tradicionais donos da terra onde estou.

So where do you start?

Os Ngunnawal e os Ngambri

Well, I think you start where you stand.

essa é a terra deles,

nunca cedida, sempre sagrada.

And for me, that means I want to acknowledge

E eu presto meu respeito aos anciãos, passado e presente, desse lugar.

the traditional owners of the land upon which I'm standing.

The Ngunnawal and Ngambri people,

Eu também reconheço hoje nos reunimos

this is their land,

em vários outros lugares,

never ceded, always sacred.

e presto meu respeito aos tradicionais donos e anciãos

And I pay my respects to the elders, past and present, of this place.

de todos esses lugares também.

Isso significa muito para mim, dizer essas palavras

I also acknowledge that we're gathering today

in many other places,

e refletir no que elas significam e sinalizam.

and I pay my respects to the traditional owners and elders

E lembrar que vivemos em um país

of all those places too.

que têm sido constantemente ocupado pelo menos nos últimos 60 mil anos.

It means a lot to me to get to say those words

and to dwell on what they mean and signal.

Os aborígenes construiram mundos aqui,

And to remember that we live in a country

eles construiram sistemas sociais, tecnologias.

that has been continuously occupied for at least 60,000 years.

Eles construiram maneiras de gerenciar esse lugar

e de gerenciar notalvemente durante um prolongado período de tempo.

Aboriginal people built worlds here,

they built social systems, they built technologies.

E todos os momentos que algum de nós sobe no palco como um australiano,

They built ways to manage this place

aqui ou lá fora,

and to manage it remarkably over a protracted period of time.

nós carregamos conosco um privilégio e uma responsabilidade

por causa dessa história.

And every moment any one of us stands on a stage as Australians,

E não é apenas história.

É também um incrivelmente rico conjunto de recursos,

here or abroad,

we carry with us a privilege and a responsibility

visões de mundo e conhecimento.

E isso deve correr nas nossas veias

because of that history.

And it's not just a history.

e deve ser a história que todos nós contamos.

It's also an incredibly rich set of resources,

Ultimamente, é sobre pensar diferente,

worldviews and knowledge.

fazer perguntas diferentes,

And it should run through all of our bones

and it should be the story we always tell.

olhar holisticamente para o mundo e os sistemas,

e descobrir outras pessoas que querem percorrer essa jornada com você.

Ultimately, it's about thinking differently,

asking different kinds of questions,

Porque para mim,

a única maneira de realmente pensar sobre o futuro e escalar

looking holistically at the world and the systems,

e sempre fazer isso coletivamente.

and finding other people who want to be on that journey with you.

E porque para mim,

Because for me,

a noção de humanos juntos nessa

the only way to actually think about the future and scale

é uma das formas de pensar sobre coisas

is to always be doing it collectively.

que são responsáveis, seguras

And because for me,

e finalmente, sustentáveis.

the notion of humans in it together

Obrigada.

is one of the ways we get to think about things

that are responsible, safe

and ultimately, sustainable.

Thank you.