How we can build AI to help humans, not hurt us | Margaret Mitchell

Tradutor: Angelo de Oliveira Revisor: Maricene Crus

I work on helping computers communicate about the world around us.

Eu trabalho ajudando os computadores a falar sobre o mundo ao nosso redor.

There are a lot of ways to do this,

Há muitas formas de se fazer isso,

and I like to focus on helping computers

e gosto de me concentrar em auxiliar os computadores

to talk about what they see and understand.

a falar sobre o que veem e entendem.

Given a scene like this,

Em uma cena como esta,

um algoritmo moderno de visão computacional

a modern computer-vision algorithm

can tell you that there's a woman and there's a dog.

pode dizer que tem uma mulher e um cachorro.

It can tell you that the woman is smiling.

Pode dizer que a mulher está sorrindo.

It might even be able to tell you that the dog is incredibly cute.

Pode até conseguir dizer que o cachorro é incrivelmente lindo.

I work on this problem

Eu trabalho nesse problema

thinking about how humans understand and process the world.

imaginando como os humanos compreendem e processam o mundo.

The thoughts, memories and stories

Os pensamentos, lembranças e histórias

that a scene like this might evoke for humans.

que uma cena como essa pode suscitar nos humanos.

All the interconnections of related situations.

Todas as interconexões de situações relacionadas.

Maybe you've seen a dog like this one before,

Talvez vocês tenham visto um cachorro como esse antes,

or you've spent time running on a beach like this one,

ou passaram tempo correndo numa praia como essa,

and that further evokes thoughts and memories of a past vacation,

e isso suscita mais pensamentos e lembranças de férias passadas,

past times to the beach,

de tempos passados na praia

times spent running around with other dogs.

ou de tempos passados correndo com outros cachorros.

One of my guiding principles is that by helping computers to understand

Um dos meus princípios fundamentais é que ao ajudar um computador a entender

what it's like to have these experiences,

como é ter essas experiências,

to understand what we share and believe and feel,

a entender o que compartilhamos, acreditamos e sentimos,

then we're in a great position to start evolving computer technology

estaremos num ótimo ponto para começar a desenvolver a tecnologia da computação

in a way that's complementary with our own experiences.

de uma forma complementar às nossas próprias experiências.

So, digging more deeply into this,

Então, indo um pouco mais fundo, há poucos anos comecei a trabalhar

a few years ago I began working on helping computers to generate human-like stories

em ajudar computadores a criar histórias humanoides

from sequences of images.

a partir de sequências de imagens.

So, one day,

Então, um dia

I was working with my computer to ask it what it thought about a trip to Australia.

eu estava averiguando o que meu computador achava de uma viagem à Austrália.

It took a look at the pictures, and it saw a koala.

Ele observou umas fotos e viu um coala.

It didn't know what the koala was,

Ele não sabia o que era um coala,

but it said it thought it was an interesting-looking creature.

mas disse que achava que parecia uma criatura interessante.

Then I shared with it a sequence of images about a house burning down.

Então mostrei uma sequência de imagens de um incêndio de uma casa.

It took a look at the images and it said,

Ele viu as imagens e disse:

"This is an amazing view! This is spectacular!"

"Isso é uma visão maravilhosa! Isso é espetacular!"

It sent chills down my spine.

Senti um frio na barriga.

It saw a horrible, life-changing and life-destroying event

Ele viu um evento horrível, que muda e destrói toda uma vida,

and thought it was something positive.

e achou que fosse algo positivo.

I realized that it recognized the contrast,

Percebi que ele reconheceu o contraste,

the reds, the yellows,

os vermelhos, os amarelos,

and thought it was something worth remarking on positively.

e achou que valesse a pena comentar positivamente.

And part of why it was doing this

E fazia isso em partes

was because most of the images I had given it

porque a maioria das imagens que eu havia dado para ele

were positive images.

eram imagens positivas.

That's because people tend to share positive images

Isso se dá porque as pessoas costumam compartilhar imagens positivas

when they talk about their experiences.

quando falam de suas experiências.

When was the last time you saw a selfie at a funeral?

Qual foi a última vez que viram uma "selfie" em um funeral?

I realized that, as I worked on improving AI

Eu percebi que, enquanto trabalhava no desenvolvimento de IA

task by task, dataset by dataset,

tarefa por tarefa, conjunto por conjunto de dados,

that I was creating massive gaps,

estava criando lacunas imensas,

holes and blind spots in what it could understand.

buracos e pontos cegos no que ele podia entender.

And while doing so,

E enquanto fazia isso,

I was encoding all kinds of biases.

eu estava codificando todo tipo de preconceitos.

Biases that reflect a limited viewpoint,

Preconceitos que refletem um ponto de vista limitado.

limited to a single dataset --

Limitado a um único conjunto de dados.

biases that can reflect human biases found in the data,

Preconceitos que podem refletir inclinações humanas encontradas nos dados,

such as prejudice and stereotyping.

tais como discriminações e estereótipos.

I thought back to the evolution of the technology

Eu pensei de novo na evolução da tecnologia

that brought me to where I was that day --

que me levou até onde me encontrava naquele dia,

how the first color images

como as primeiras imagens coloridas

were calibrated against a white woman's skin,

eram calibradas contra a pele de uma mulher branca,

meaning that color photography was biased against black faces.

o que significava que a fotografia a cores tinha preconceito contra rostos negros.

And that same bias, that same blind spot

E aquele mesmo preconceito, aquele mesmo ponto cego

continued well into the '90s.

continuou até a década de 1990.

And the same blind spot continues even today

E o mesmo ponto cego continua ainda hoje

in how well we can recognize different people's faces

no quão bem podemos reconhecer os rostos de pessoas diferentes

in facial recognition technology.

com a tecnologia de reconhecimento facial.

I though about the state of the art in research today,

Eu pensei sobre a última geração de pesquisa atualmente,

where we tend to limit our thinking to one dataset and one problem.

na qual tendemos a limitar nossa reflexão a um conjunto de dados e um problema.

And that in doing so, we were creating more blind spots and biases

E que, fazendo isso, criamos mais pontos cegos e preconceitos

that the AI could further amplify.

que a IA pode amplificar ainda mais.

I realized then that we had to think deeply

Eu percebi que tínhamos que pensar muito

about how the technology we work on today looks in five years, in 10 years.

sobre como a tecnologia em que hoje trabalhamos será em cinco ou dez anos.

Humans evolve slowly, with time to correct for issues

Os humanos evoluem devagar, com tempo de corrigir questões

in the interaction of humans and their environment.

em sua interação mútua e com seu meio ambiente.

In contrast, artificial intelligence is evolving at an incredibly fast rate.

Por outro lado, a inteligência artificial evolui em um ritmo incrivelmente rápido.

And that means that it really matters

Isso significa ser deveras importante

that we think about this carefully right now --

que pensemos a respeito com cuidado agora mesmo,

that we reflect on our own blind spots,

que reflitamos sobre nossos pontos cegos,

our own biases,

nossos próprios preconceitos,

and think about how that's informing the technology we're creating

sobre como isso está direcionando a tecnologia que estamos criando,

and discuss what the technology of today will mean for tomorrow.

e que debatamos o que a tecnologia de hoje significará para o amanhã.

CEOs and scientists have weighed in on what they think

Diretores executivos e cientistas declararam o que acham

the artificial intelligence technology of the future will be.

do que será a inteligência artificial do futuro.

Stephen Hawking warns that

Stephen Hawking avisa:

"Artificial intelligence could end mankind."

"A inteligência artificial pode terminar com a raça humana".

Elon Musk warns that it's an existential risk

Elon Musk adverte que ela é um risco existencial

and one of the greatest risks that we face as a civilization.

e um dos maiores riscos que enfrentamos como civilização.

Bill Gates has made the point,

Bill Gates ressaltou:

"I don't understand why people aren't more concerned."

"Não entendo por que as pessoas não estão mais preocupadas".

But these views --

Mas estas opiniões

they're part of the story.

fazem parte da história.

The math, the models,

A matemática, os modelos,

the basic building blocks of artificial intelligence

os fundamentos básicos da inteligência artificial

are something that we call access and all work with.

são algo que todos podemos acessar e com o qual podemos trabalhar.

We have open-source tools for machine learning and intelligence

Temos ferramentas de fonte aberta para aprendizado automático e inteligência

that we can contribute to.

para as quais podemos contribuir.

And beyond that, we can share our experience.

E, além disso, podemos compartilhar a nossa experiência.

We can share our experiences with technology and how it concerns us

Podemos compartilhá-las com tecnologia, e como ela nos afeta e estimula.

and how it excites us.

We can discuss what we love.

Podemos discutir o que amamos.

We can communicate with foresight

Podemos prever e transmitir

about the aspects of technology that could be more beneficial

aspectos da tecnologia que poderiam ser mais benéficos

or could be more problematic over time.

ou mais problemáticos ao longo do tempo.

If we all focus on opening up the discussion on AI

Se todos nos concentrarmos em abrir a discussão sobre IA

with foresight towards the future,

com previsões em direção ao futuro,

this will help create a general conversation and awareness

isso ajudará a criar um diálogo geral e uma consciência

about what AI is now,

sobre o que é a IA neste momento,

what it can become

o que ela pode se tornar

and all the things that we need to do

e tudo que precisamos fazer

in order to enable that outcome that best suits us.

para permitir o resultado que mais se ajuste a nós.

We already see and know this in the technology that we use today.

Nós já vimos e conhecemos isso na tecnologia que usamos hoje.

We use smart phones and digital assistants and Roombas.

Usamos smartphones, assistentes digitais e "Roombas".

Are they evil?

Eles são nocivos?

Maybe sometimes.

Às vezes, talvez.

Are they beneficial?

Eles são benéficos?

Yes, they're that, too.

Sim, também.

And they're not all the same.

E não são todos iguais.

And there you already see a light shining on what the future holds.

Vocês já podem ver aí uma luz brilhando sobre o que o futuro nos reserva.

The future continues on from what we build and create right now.

O futuro leva adiante o que construímos e criamos no presente.

We set into motion that domino effect

Nós colocamos em movimento aquele efeito dominó

that carves out AI's evolutionary path.

que traça a rota evolucionária da IA.

In our time right now, we shape the AI of tomorrow.

Em nosso tempo agora, moldamos a IA de amanhã.

Technology that immerses us in augmented realities

A tecnologia que nos imerge em realidades aumentadas

bringing to life past worlds.

e que traz à vida mundos passados.

Technology that helps people to share their experiences

A tecnologia que ajuda pessoas a compartilharem suas experiências

when they have difficulty communicating.

quando têm dificuldade de comunicação.

Technology built on understanding the streaming visual worlds

A tecnologia baseada na compreensão da transmissão de mundos visuais

used as technology for self-driving cars.

usados como tecnologia para carros autoguiados.

Technology built on understanding images and generating language,

A tecnologia baseada na compreensão de imagens e que gera linguagem,

evolving into technology that helps people who are visually impaired

evoluindo para a tecnologia que ajuda pessoas com deficiência visual

be better able to access the visual world.

estarem mais aptas a acessar o mundo visual.

And we also see how technology can lead to problems.

E também vemos como a tecnologia pode acarretar problemas.

We have technology today

Nós temos tecnologia hoje

that analyzes physical characteristics we're born with --

que analisa características físicas com as quais nascemos,

such as the color of our skin or the look of our face --

tais como a cor da pele ou a aparência do nosso rosto,

in order to determine whether or not we might be criminals or terrorists.

a fim de determinar se podemos ser ou não criminosos ou terroristas.

We have technology that crunches through our data,

Temos tecnologia que analisa nossos dados,

even data relating to our gender or our race,

até dados relacionados ao nosso gênero ou nossa raça,

in order to determine whether or not we might get a loan.

a fim de determinar se podemos pegar um empréstimo ou não.

All that we see now

Tudo o que vemos agora

is a snapshot in the evolution of artificial intelligence.

é um retrato na evolução da inteligência artificial.

Because where we are right now,

Porque onde nos encontramos agora

is within a moment of that evolution.

está dentro de um momento dessa evolução.

That means that what we do now will affect what happens down the line

Isso significa que o que fizermos agora afetará o que acontecerá mais à frente

and in the future.

e no futuro.

If we want AI to evolve in a way that helps humans,

Se queremos que a IA evolua de um jeito que ajude os humanos,

then we need to define the goals and strategies

então precisamos definir as metas e as estratégias

that enable that path now.

que possibilitem esse caminho agora.

What I'd like to see is something that fits well with humans,

Eu gostaria de ver algo que se ajustasse bem aos humanos,

with our culture and with the environment.

às nossas culturas e ao nosso meio ambiente.

Technology that aids and assists those of us with neurological conditions

Tecnologia que ajude e auxilie aqueles de nós com problemas neurológicos

or other disabilities

ou outras deficiências,

in order to make life equally challenging for everyone.

a fim de tornar a vida igualmente desafiadora para todos.

Technology that works

Tecnologia que funcione

regardless of your demographics or the color of your skin.

a despeito de seu perfil demográfico ou a cor da sua pele.

And so today, what I focus on is the technology for tomorrow

Então, hoje, eu me concentro na tecnologia para o amanhã

and for 10 years from now.

e daqui a dez anos.

AI can turn out in many different ways.

A IA pode acabar de várias maneiras diferentes.

But in this case,

Mas, neste caso,

it isn't a self-driving car without any destination.

não é um carro autoguiado sem destino.

This is the car that we are driving.

Esse é o carro que nós estamos dirigindo.

We choose when to speed up and when to slow down.

Nós escolhemos quando aumentar ou diminuir a velocidade.

We choose if we need to make a turn.

Nós escolhemos se precisamos fazer uma curva.

We choose what the AI of the future will be.

Nós escolhemos o que será a IA do futuro.

There's a vast playing field

Há um campo vasto

of all the things that artificial intelligence can become.

de tudo que a inteligência artificial poderá se tornar.

It will become many things.

Ela se tornará muitas coisas.

And it's up to us now,

E depende de nós agora,

in order to figure out what we need to put in place

a fim de descobrir o que precisamos implementar

to make sure the outcomes of artificial intelligence

para garantir que os resultados da inteligência artificial

are the ones that will be better for all of us.

serão os melhores para todos nós.

Thank you.

Obrigada.

(Applause)

(Aplausos)