How will AI change the world?

Tradutor: Sara Reis Revisor: Elena Crescia

Nos próximos anos,

In the coming years, artificial intelligence

a inteligência artificial provavelmente vai mudar sua vida, e o mundo inteiro.

is probably going to change your life, and likely the entire world.

Mas as pessoas tem dificuldade em concordar sobre como exatamente.

But people have a hard time agreeing on exactly how.

A seguir, trechos de uma entrevista onde Stuart Russell,

The following are excerpts from an interview

where renowned computer science professor and AI expert Stuart Russell

renomado professor de ciência da computação e especialista em IA,

helps separate the sense from the nonsense.

ajuda a separar o sentido do absurdo.

There’s a big difference between asking a human to do something

Há uma grande diferença entre pedir que um humano faça algo,

and giving that as the objective to an AI system.

e dar isso como o objetivo para um sistema de IA.

When you ask a human to get you a cup of coffee,

Quando você pede para um humano trazer uma xícara de café,

you don’t mean this should be their life’s mission,

não quer dizer que essa deve ser a missão da vida dele

and nothing else in the universe matters.

e nada mais no universo importa.

Even if they have to kill everybody else in Starbucks

Mesmo que precise matar todos os outros no Starbucks

to get you the coffee before it closes— they should do that.

para pegar o seu café antes que feche, ele deve fazer isso.

Não é isso que quer dizer.

No, that’s not what you mean.

All the other things that we mutually care about,

Quer dizer que todas as coisas que nos importam mutuamente

they should factor into your behavior as well.

devem influenciar seu comportamento também.

And the problem with the way we build AI systems now

O problema com o jeito que construímos sistemas de IA agora,

é que damos a eles um objetivo fixo.

is we give them a fixed objective.

Os algoritmos requerem que especifiquemos tudo no objetivo.

The algorithms require us to specify everything in the objective.

And if you say, can we fix the acidification of the oceans?

E se você disser: “Podemos consertar a acidificação dos oceanos?”

Yeah, you could have a catalytic reaction that does that extremely efficiently,

Sim, pode ter uma reação catalítica que faz isso de forma extremamente eficiente,

but it consumes a quarter of the oxygen in the atmosphere,

mas consome um quarto do oxigênio na atmosfera,

which would apparently cause us to die fairly slowly and unpleasantly

o que aparentemente causaria nossa morte de forma lenta e desagradável

over the course of several hours.

ao longo de várias horas.

So, how do we avoid this problem?

Então, como evitamos esse problema?

You might say, okay, well, just be more careful about specifying the objective—

Você pode dizer: “Bem, só tenha mais cuidado ao especificar o objetivo, certo?

don’t forget the atmospheric oxygen.

Não se esqueça do oxigênio atmosférico.”

And then, of course, some side effect of the reaction in the ocean

Mas então, é claro,

alguns efeitos colaterais da reação no oceano envenena todos os peixes.

poisons all the fish.

Okay, well I meant don’t kill the fish either.

“Bem, quis dizer não matar os peixes também”

And then, well, what about the seaweed?

E as algas marinhas?

Don’t do anything that’s going to cause all the seaweed to die.

“Não faça nada que cause a morte de todas as algas marinhas.”

And on and on and on.

E continua assim.

And the reason that we don’t have to do that with humans is that

E a razão pela qual não temos que fazer isso com humanos

humans often know that they don’t know all the things that we care about.

é que os humanos costumam saber

que eles não sabem de todas as coisas que importam para nós.

If you ask a human to get you a cup of coffee,

Se você pedir para um humano trazer uma xícara de café,

and you happen to be in the Hotel George Sand in Paris,

e por acaso você está no Hotel George Sand em Paris,

where the coffee is 13 euros a cup,

onde uma xícara de café custa 13 euros,

it’s entirely reasonable to come back and say, well, it’s 13 euros,

é totalmente razoável voltar e dizer: “Bem, são 13 euros,

are you sure you want it, or I could go next door and get one?

tem certeza que quer, ou posso ir pegar um aqui do lado?”

And it’s a perfectly normal thing for a person to do.

E é perfeitamente normal uma pessoa fazer isso.

Perguntar: “Eu vou repintar a sua casa,

To ask, I’m going to repaint your house—

is it okay if I take off the drainpipes and then put them back?

tudo bem se eu tirar os canos de drenagem e depois colocá-los de volta?”

We don't think of this as a terribly sophisticated capability,

Não pensamos nisso como uma capacidade terrivelmente sofisticada,

but AI systems don’t have it because the way we build them now,

mas sistemas de IA não tem isso,

pois da forma que os construímos agora, precisam saber o objetivo completo.

they have to know the full objective.

If we build systems that know that they don’t know what the objective is,

Se construirmos sistemas que sabem que eles não sabem qual é o objetivo,

then they start to exhibit these behaviors,

então eles começam a exibir esses comportamentos,

like asking permission before getting rid of all the oxygen in the atmosphere.

como pedir permissão antes de se livrar de todo o oxigênio na atmosfera.

In all these senses, control over the AI system

Em todos esses sentidos, controle sobre o sistema de IA

comes from the machine’s uncertainty about what the true objective is.

vem da incerteza da máquina sobre qual é o verdadeiro objetivo.

And it’s when you build machines that believe with certainty

Quando você constrói máquinas

que acreditam com certeza que elas tem o objetivo,

that they have the objective,

that’s when you get this sort of psychopathic behavior.

é quando você recebe esse tipo de comportamento psicopático.

And I think we see the same thing in humans.

E acho que vemos a mesma coisa nos humanos.

What happens when general purpose AI hits the real economy?

O que acontece quando a IA de propósito geral atinge a economia real?

How do things change? Can we adapt?

Como as coisas mudam? Podemos nos adaptar?

This is a very old point.

Esse é um ponto muito antigo.

Amazingly, Aristotle actually has a passage where he says,

Surpreendentemente, Aristóteles tem uma passagem onde ele diz,

look, if we had fully automated weaving machines

olha, se tivéssemos máquinas de tecelagem totalmente automatizadas

and plectrums that could pluck the lyre and produce music without any humans,

e palhetas que pudessem dedilhar a lira e produzir música sem nenhum humano,

then we wouldn’t need any workers.

então não precisaríamos de trabalhadores.

That idea, which I think it was Keynes

Essa ideia, que acho que foi Keynes que chamou de desemprego tecnológico em 1930,

who called it technological unemployment in 1930,

is very obvious to people.

é muito óbvia para as pessoas, certo?

They think, yeah, of course, if the machine does the work,

Elas pensam, “Sim, é claro, se a máquina faz o trabalho, vou ficar desempregado.”

then I'm going to be unemployed.

You can think about the warehouses that companies are currently operating

Se você pensar nos armazéns que as empresas estão operando atualmente

for e-commerce, they are half automated.

para comércio eletrônico, eles são meio automatizados.

The way it works is that an old warehouse— where you’ve got tons of stuff piled up

A forma como funciona é que um armazém antigo,

onde há toneladas de coisas empilhadas em todo o lugar,

all over the place and humans go and rummage around

e humanos vão lá mexer e depois trazem de volta e enviam,

and then bring it back and send it off—

there’s a robot who goes and gets the shelving unit

há um robô que vai e pega a estante que contém a coisa que você precisa,

that contains the thing that you need,

but the human has to pick the object out of the bin or off the shelf,

mas o humano tem que tirar o objeto do compartimento ou da estante,

because that’s still too difficult.

porque isso ainda é muito difícil.

But, at the same time,

Mas, ao mesmo tempo, você faria um robô que é preciso o suficiente

would you make a robot that is accurate enough to be able to pick

para ser capaz de pegar praticamente qualquer objeto

pretty much any object within a very wide variety of objects that you can buy?

dentro de uma ampla variedade de objetos que você pode comprar,

That would, at a stroke, eliminate 3 or 4 million jobs?

que iria, de uma vez só, eliminar 3 ou 4 milhões de empregos?

There's an interesting story that E.M. Forster wrote,

Há uma história interessante que E. M. Forster escreveu,

where everyone is entirely machine dependent.

onde todos são totalmente dependentes de máquinas.

The story is really about the fact that if you hand over

A história é na verdade sobre o fato

de que se você entregar a gestão da nossa civilização para máquinas,

the management of your civilization to machines,

you then lose the incentive to understand it yourself

então você perde o incentivo de entendê-la sozinho

or to teach the next generation how to understand it.

ou de ensinar a próxima geração como entendê-la.

You can see “WALL-E” actually as a modern version,

Você pode ver WALL-E como uma versão moderna,

where everyone is enfeebled and infantilized by the machine,

onde todos são debilitados e infantilizados pela máquina,

and that hasn’t been possible up to now.

e isso não foi possível até agora, certo?

We put a lot of our civilization into books,

Colocamos muito da nossa civilização em livros,

but the books can’t run it for us.

mas eles não podem comandá-la por nós,

And so we always have to teach the next generation.

então sempre temos que ensinar a próxima geração.

If you work it out, it’s about a trillion person years of teaching and learning

Se você resolver, é cerca de um trilhão de anos de pessoas, de ensino e aprendizagem,

and an unbroken chain that goes back tens of thousands of generations.

e uma corrente ininterrupta que volta dezenas de milhares de gerações.

What happens if that chain breaks?

O que acontece se essa corrente quebrar?

I think that’s something we have to understand as AI moves forward.

Acho que isso é algo que temos que entender à medida que a IA avança.

The actual date of arrival of general purpose AI—

A data real da chegada da IA de propósito geral,

you’re not going to be able to pinpoint, it isn’t a single day.

você não conseguirá localizar, não é um único dia.

It’s also not the case that it’s all or nothing.

Também não é o caso de tudo ou nada.

The impact is going to be increasing.

O impacto será crescente,

So with every advance in AI,

então cada avanço da IA expande significativamente o leque de tarefas.

it significantly expands the range of tasks.

So in that sense, I think most experts say by the end of the century,

Então, nesse sentido, acho que a maioria dos especialistas dizem

que até o fim do século é muito provável que tenhamos IA de propósito geral.

we’re very, very likely to have general purpose AI.

The median is something around 2045.

A mediana é algo em torno de 2045.

I'm a little more on the conservative side.

Estou um pouco mais no lado conservador,

I think the problem is harder than we think.

acho que o problema é mais difícil do que pensamos.

I like what John McAfee, he was one of the founders of AI,

Eu gosto que John McAfee, ele foi um dos criadores da IA,

when he was asked this question, he said, somewhere between five and 500 years.

quando lhe fizeram essa pergunta, ele disse algum lugar entre 5 e 500 anos,

And we're going to need, I think, several Einsteins to make it happen.

e acho que vamos precisar de vários Einsteins para fazer acontecer.