How we can build AI to help humans, not hurt us | Margaret Mitchell

Tradutor: Marina de Morais Revisora: Margarida Ferreira

I work on helping computers communicate about the world around us.

Eu trabalho a ajudar computadores a comunicarem o mundo à nossa volta.

There are a lot of ways to do this,

Há muitas maneiras de fazer isso,

and I like to focus on helping computers

e gosto de me concentrar em ajudar os computadores

to talk about what they see and understand.

a falar sobre o que veem e entendem.

Given a scene like this,

Perante uma cena como esta,

a modern computer-vision algorithm

um algoritmo de visão computacional moderna

can tell you that there's a woman and there's a dog.

pode dizer-nos que há uma mulher e há um cão.

It can tell you that the woman is smiling.

Pode dizer-nos que a mulher está a sorrir.

It might even be able to tell you that the dog is incredibly cute.

Pode até conseguir dizer-nos que o cão é incrivelmente bonito.

I work on this problem

Eu trabalho neste problema

thinking about how humans understand and process the world.

pensando em como os seres humanos compreendem e processam o mundo.

The thoughts, memories and stories

Os pensamentos, as memórias e as histórias

that a scene like this might evoke for humans.

que uma cena como esta pode evocar aos seres humanos,

All the interconnections of related situations.

todas as interligações de situações relacionadas.

Maybe you've seen a dog like this one before,

Talvez vocês já tenham visto um cão como este,

or you've spent time running on a beach like this one,

ou tenham passado algum tempo a correr numa praia como esta,

and that further evokes thoughts and memories of a past vacation,

e isso ainda evoca mais pensamentos e memórias de férias passadas,

past times to the beach,

de tempos passados ​​na praia,

times spent running around with other dogs.

de tempos passados a ​​correr com outros cães.

One of my guiding principles is that by helping computers to understand

Um dos meus princípios orientadores é ajudar os computadores a entender

what it's like to have these experiences,

como é ter essas experiências,

to understand what we share and believe and feel,

para entenderem o que partilhamos e acreditarem e sentirem.

then we're in a great position to start evolving computer technology

Estamos numa ótima posição para fazer evoluir a tecnologia de computador

in a way that's complementary with our own experiences.

de uma forma que é complementar das nossas próprias experiências.

So, digging more deeply into this,

Então, mergulhando nisto mais profundamente,

a few years ago I began working on helping computers to generate human-like stories

há uns anos comecei a trabalhar

ajudando os computadores a gerarem histórias humanas

from sequences of images.

a partir de sequências de imagens.

So, one day,

Um dia, eu estava a trabalhar no meu computador

I was working with my computer to ask it what it thought about a trip to Australia.

para lhe perguntar o que é que ele pensava duma viagem à Austrália.

It took a look at the pictures, and it saw a koala.

Ele observou as fotos e viu um coala.

It didn't know what the koala was,

Ele não sabia o que era um coala,

but it said it thought it was an interesting-looking creature.

mas disse que achava que era uma criatura de aspeto interessante.

Then I shared with it a sequence of images about a house burning down.

Então, mostrei-lhe uma sequência de imagens sobre uma casa a arder.

It took a look at the images and it said,

Deu uma olhadela a essas imagens e disse:

"This is an amazing view! This is spectacular!"

“Isto é uma vista incrível! Isto é espetacular! "

It sent chills down my spine.

Senti arrepios pela espinha abaixo.

It saw a horrible, life-changing and life-destroying event

Ele vira um acontecimento terrível, que mudava e destruía vidas

and thought it was something positive.

e achara que era uma coisa positiva.

I realized that it recognized the contrast,

Percebi que ele reconhecia o contraste,

the reds, the yellows,

os vermelhos, os amarelos,

and thought it was something worth remarking on positively.

e pensara que era uma coisa que valia a pena comentar positivamente.

And part of why it was doing this

Em parte, o motivo por que estava a fazer isso

was because most of the images I had given it

era porque a maioria das imagens que eu lhe tinha dado

were positive images.

tinham sido imagens positivas.

That's because people tend to share positive images

As pessoas têm tendência a partilhar imagens positivas

when they talk about their experiences.

quando falam sobre as suas experiências.

When was the last time you saw a selfie at a funeral?

Quando foi a última vez que vocês viram uma "selfie" num funeral?

I realized that, as I worked on improving AI

Eu percebi que, enquanto trabalhava para melhorar a IA

task by task, dataset by dataset,

tarefa a tarefa, conjunto de dados a conjunto de dados,

that I was creating massive gaps,

estava a criar lacunas enormes,

holes and blind spots in what it could understand.

buracos e pontos cegos no que ele poderia entender.

And while doing so,

E enquanto fazia isso,

I was encoding all kinds of biases.

eu estava a codificar todos os tipos de preconceitos.

Biases that reflect a limited viewpoint,

Preconceitos que refletem um ponto de vista limitado,

limited to a single dataset --

limitado a um único conjunto de dados,

biases that can reflect human biases found in the data,

preconceitos que podem refletir preconceitos humanos

encontrados nos dados,

such as prejudice and stereotyping.

como preconceitos e estereótipos.

I thought back to the evolution of the technology

Recordei a evolução da tecnologia

that brought me to where I was that day --

que me levara para onde eu estava naquele dia

how the first color images

— como as primeiras imagens coloridas

were calibrated against a white woman's skin,

tinham sido calibradas a partir da pele de uma mulher branca,

meaning that color photography was biased against black faces.

ou seja, a fotografia colorida era tendenciosa contra rostos negros.

And that same bias, that same blind spot

Esse mesmo preconceito, esse mesmo ponto cego

continued well into the '90s.

continuou até aos anos 90.

And the same blind spot continues even today

E o mesmo ponto cego continua ainda hoje

in how well we can recognize different people's faces

na forma como reconhecemos tão bem os rostos de pessoas diferentes

in facial recognition technology.

na tecnologia de reconhecimento facial.

I though about the state of the art in research today,

Eu pensei na investigação de ponta de hoje,

where we tend to limit our thinking to one dataset and one problem.

onde tendemos a limitar o nosso pensamento a um conjunto de dados e a um só problema.

And that in doing so, we were creating more blind spots and biases

Ao fazermos isso, estávamos a criar mais pontos cegos e preconceitos

that the AI could further amplify.

que a IA poderia ampliar ainda mais.

I realized then that we had to think deeply

Eu percebi então que tínhamos de pensar profundamente

about how the technology we work on today looks in five years, in 10 years.

sobre como será daqui a cinco anos, daqui a 10 anos,

a tecnologia em que trabalhamos hoje,

Humans evolve slowly, with time to correct for issues

Os seres humanos evoluem lentamente, com tempo para corrigir os problemas

in the interaction of humans and their environment.

na interação dos seres humanos com o seu ambiente.

In contrast, artificial intelligence is evolving at an incredibly fast rate.

Em contraste, a inteligência artificial

está a evoluir a um ritmo incrivelmente rápido.

Isso significa que é importante

And that means that it really matters

that we think about this carefully right now --

que pensemos nisso agora com o maior cuidado,

that we reflect on our own blind spots,

que reflitamos nos nossos pontos cegos,

our own biases,

nos nossos preconceitos,

and think about how that's informing the technology we're creating

e pensemos em como isso está a afetar a tecnologia que estamos a criar

and discuss what the technology of today will mean for tomorrow.

e analisemos o que a tecnologia de hoje significará amanhã.

CEOs and scientists have weighed in on what they think

CEOs e cientistas avaliaram aquilo que eles consideram

the artificial intelligence technology of the future will be.

que virá a ser a tecnologia da inteligência artificial do futuro.

Stephen Hawking warns that

Stephen Hawking avisa:

"Artificial intelligence could end mankind."

"A Inteligência artificial pode acabar com a Humanidade. "

Elon Musk warns that it's an existential risk

Elon Musk avisa que é um risco existencial

and one of the greatest risks that we face as a civilization.

e um dos maiores riscos que enfrentamos enquanto civilização.

Bill Gates has made the point,

Bill Gates deixou claro:

"I don't understand why people aren't more concerned."

"Não entendo porque é que as pessoas não estão mais preocupadas."

But these views --

Mas essas perspetivas fazem parte da História.

they're part of the story.

The math, the models,

A matemática, os modelos,

the basic building blocks of artificial intelligence

os blocos de construção básicos da inteligência artificial

are something that we call access and all work with.

são algo a que chamamos "acesso" e com que todos trabalham.

We have open-source tools for machine learning and intelligence

Temos ferramentas de código aberto para aprendizagem de máquina

that we can contribute to.

para as quais podemos contribuir.

And beyond that, we can share our experience.

E além disso, podemos partilhar a nossa experiência.

We can share our experiences with technology and how it concerns us

Podemos partilhar as nossas experiências com a tecnologia

como ela nos preocupa e como isso nos entusiasma.

and how it excites us.

We can discuss what we love.

Podemos analisar o que amamos.

We can communicate with foresight

Podemos comunicar com conhecimento antecipado

about the aspects of technology that could be more beneficial

quais os aspetos da tecnologia que poderão ser mais benéficos

or could be more problematic over time.

ou que poderão ser mais problemáticos com o tempo.

If we all focus on opening up the discussion on AI

Se todos nós nos concentrarmos em abrir o debate sobre a IA,

with foresight towards the future,

com uma visão para o futuro,

this will help create a general conversation and awareness

isso ajudará a criar uma conversa e uma consciência

about what AI is now,

sobre o que a IA é agora,

what it can become

sobre aquilo que ela pode vir a ser

and all the things that we need to do

e sobre todas as coisas que precisamos de fazer

in order to enable that outcome that best suits us.

a fim de permitir o resultado que melhor nos convém.

We already see and know this in the technology that we use today.

Nós já vemos e sabemos isso na tecnologia que usamos hoje.

We use smart phones and digital assistants and Roombas.

Usamos "smartphones", assistentes digitais e robôs-aspiradores.

Are they evil?

Eles são maus?

Maybe sometimes.

Talvez às vezes.

Are they beneficial?

Eles são benéficos?

Yes, they're that, too.

Sim, também são.

And they're not all the same.

E não são todos iguais.

And there you already see a light shining on what the future holds.

Aí já vemos uma luz brilhando sobre o que o futuro reserva.

The future continues on from what we build and create right now.

O futuro continua a partir do que construímos e criamos hoje.

We set into motion that domino effect

Colocamos em movimento o efeito dominó

that carves out AI's evolutionary path.

que traça o caminho evolutivo da IA.

In our time right now, we shape the AI of tomorrow.

No nosso tempo de hoje, nós modelamos a IA de amanhã.

Technology that immerses us in augmented realities

A tecnologia que nos envolve em realidades aumentadas

bringing to life past worlds.

trazendo à vida mundos passados.

Technology that helps people to share their experiences

A tecnologia que ajuda as pessoas a partilhar as suas experiências

when they have difficulty communicating.

quando elas têm dificuldade em comunicar.

Technology built on understanding the streaming visual worlds

A tecnologia baseada na compreensão dos mundos visuais do "streaming"

used as technology for self-driving cars.

usado como tecnologia para carros autónomos.

Technology built on understanding images and generating language,

A tecnologia baseada na compreensão de imagens e gerando linguagem,

evolving into technology that helps people who are visually impaired

evoluindo para a tecnologia que ajuda as pessoas que são deficientes visuais

be better able to access the visual world.

a conseguirem ter acesso ao mundo visual.

And we also see how technology can lead to problems.

E também vemos como a tecnologia pode levar a problemas.

We have technology today

Temos tecnologia hoje

that analyzes physical characteristics we're born with --

que analisa as características físicas com que nascemos

such as the color of our skin or the look of our face --

como a cor da pele ou o aspeto do rosto

in order to determine whether or not we might be criminals or terrorists.

a fim de determinar se seremos ou não criminosos ou terroristas.

We have technology that crunches through our data,

Temos tecnologia que processa os nossos dados,

even data relating to our gender or our race,

até mesmo os dados relacionados com o nosso género ou etnia,

in order to determine whether or not we might get a loan.

a fim de determinar se podemos ou não obter um empréstimo.

All that we see now

Tudo o que vemos agora

is a snapshot in the evolution of artificial intelligence.

é um instantâneo da evolução da inteligência artificial.

Because where we are right now,

Porque o ponto em que estamos agora,

is within a moment of that evolution.

está dentro de um momento dessa evolução.

That means that what we do now will affect what happens down the line

Isso significa que o que fazemos agora afetará o que acontece no futuro

and in the future.

e no futuro.

If we want AI to evolve in a way that helps humans,

Se quisermos que a IA evolua de uma forma que ajude os seres humanos,

then we need to define the goals and strategies

precisamos de definir os objetivos e as estratégias

that enable that path now.

que permitem esse caminho agora.

What I'd like to see is something that fits well with humans,

O que eu gostaria de ver é algo que se encaixa bem com os seres humanos,

with our culture and with the environment.

com a nossa cultura e com o meio ambiente.

Technology that aids and assists those of us with neurological conditions

Uma tecnologia que ajude e auxilie os que têm problemas neurológicos

or other disabilities

ou outras deficiências

in order to make life equally challenging for everyone.

a fim de tornar a vida igualmente desafiadora para todos.

Technology that works

Uma tecnologia que funcione

regardless of your demographics or the color of your skin.

independentemente dos nossos dados demográficos ou da cor da pele.

And so today, what I focus on is the technology for tomorrow

Assim, aquilo em que eu me foco hoje é a tecnologia para amanhã

and for 10 years from now.

e para 10 anos a partir de agora.

AI can turn out in many different ways.

A IA pode revelar-se de muitas maneiras diferentes.

But in this case,

Mas, neste caso,

it isn't a self-driving car without any destination.

não é um carro autónomo sem qualquer destino.

This is the car that we are driving.

É o carro que somos nós a dirigir.

We choose when to speed up and when to slow down.

Nós escolhemos quando acelerar e quando abrandar.

We choose if we need to make a turn.

Nós escolhemos se precisamos de fazer uma curva.

We choose what the AI of the future will be.

Nós escolhemos o que será a IA do futuro.

There's a vast playing field

Há um vasto campo de jogo

of all the things that artificial intelligence can become.

de todas as coisas em que a inteligência artificial se pode tornar.

It will become many things.

Tornar-se-á em muitas coisas.

And it's up to us now,

E cabe a nós agora,

in order to figure out what we need to put in place

a fim de descobrir o que precisamos de implementar

to make sure the outcomes of artificial intelligence

para garantir que os resultados da inteligência artificial

are the ones that will be better for all of us.

são os que serão melhor para todos nós.

Thank you.

Obrigada.

(Applause)

(Aplausos)