How will AI change the world?

Tradutor: Eliana Santos Revisora: Nadia Tira

In the coming years, artificial intelligence

Nos próximos anos, a inteligência artificial

is probably going to change your life, and likely the entire world.

provavelmente vai mudar a vossa vida, e possivelmente a do mundo inteiro.

But people have a hard time agreeing on exactly how.

Mas as pessoas têm dificuldade em concordar exatamente como.

The following are excerpts from an interview

Estes são excertos de uma entrevista

where renowned computer science professor and AI expert Stuart Russell

onde Stuart Russell, professor de ciências da computação e especialista em IA

helps separate the sense from the nonsense.

ajuda a separar o que faz sentido daquilo que não faz.

There’s a big difference between asking a human to do something

Há uma grande diferença entre pedir a um ser humano para fazer algo

and giving that as the objective to an AI system.

e dar isso como objetivo a um sistema de IA.

When you ask a human to get you a cup of coffee,

Quando pedem a um ser humano para vos trazer café,

you don’t mean this should be their life’s mission,

não significa que esta deva ser a missão da vida dele,

and nothing else in the universe matters.

e que mais nada no universo importa.

Even if they have to kill everybody else in Starbucks

Mesmo que tenha de matar toda a gente no Starbucks

to get you the coffee before it closes— they should do that.

para vos arranjar café antes de fechar, deve fazer isso.

No, that’s not what you mean.

Não, não é isso que querem.

All the other things that we mutually care about,

Tudo o resto com que nos preocupamos mutuamente,

they should factor into your behavior as well.

também deve ser considerado no comportamento.

And the problem with the way we build AI systems now

E o problema com a forma como criamos sistemas de IA agora

é que lhes damos um objetivo fixo.

is we give them a fixed objective.

Os algoritmos exigem que especifiquemos tudo no objetivo.

The algorithms require us to specify everything in the objective.

And if you say, can we fix the acidification of the oceans?

E se disserem: “Podemos solucionar a acidificação dos oceanos?”

Yeah, you could have a catalytic reaction that does that extremely efficiently,

Poderíamos sofrer uma reação catalítica que faz isso de forma muito eficiente,

but it consumes a quarter of the oxygen in the atmosphere,

mas consome um quarto do oxigénio na atmosfera,

which would apparently cause us to die fairly slowly and unpleasantly

o que aparentemente nos faria morrer de forma bastante lenta e desagradável

over the course of several hours.

no decorrer de várias horas.

So, how do we avoid this problem?

Então, como é que evitamos este problema?

You might say, okay, well, just be more careful about specifying the objective—

Podem dizer para sermos mais cuidadosos ao especificar o objetivo...

don’t forget the atmospheric oxygen.

não se esqueçam do oxigénio atmosférico.

And then, of course, some side effect of the reaction in the ocean

E depois, claro, algum efeito secundário da reação no oceano

poisons all the fish.

envenena todos os peixes.

Okay, well I meant don’t kill the fish either.

Queria dizer para também não matarmos os peixes.

And then, well, what about the seaweed?

E depois, o que acontece às algas?

Don’t do anything that’s going to cause all the seaweed to die.

Não façam nada que mate as algas todas.

And on and on and on.

E por aí adiante.

And the reason that we don’t have to do that with humans is that

E a razão pela qual não temos de fazer isso com humanos é que estes

humans often know that they don’t know all the things that we care about.

muitas vezes sabem que não sabem tudo aquilo com que nos preocupamos.

If you ask a human to get you a cup of coffee,

Se pedirem a um ser humano para vos trazer café,

and you happen to be in the Hotel George Sand in Paris,

e se estiverem no Hotel George Sand em Paris,

where the coffee is 13 euros a cup,

onde o café custa 13 euros,

it’s entirely reasonable to come back and say, well, it’s 13 euros,

é totalmente razoável voltar atrás, dizer que custa 13 euros,

are you sure you want it, or I could go next door and get one?

e perguntar se o querem mesmo ou se devo ir a outro sítio?

And it’s a perfectly normal thing for a person to do.

E é uma coisa perfeitamente normal de uma pessoa fazer.

To ask, I’m going to repaint your house—

Se eu voltar a pintar a vossa casa,

is it okay if I take off the drainpipes and then put them back?

não há problema se tirar a canalização e voltar a colocá-la?

We don't think of this as a terribly sophisticated capability,

Não pensamos nisto como uma capacidade extremamente sofisticada,

but AI systems don’t have it because the way we build them now,

mas os sistemas de IA não a têm porque como os construímos,

they have to know the full objective.

estes têm de saber o objetivo completo.

If we build systems that know that they don’t know what the objective is,

Se construirmos sistemas que sabem que não sabem qual é o objetivo,

then they start to exhibit these behaviors,

eles começam a exibir estes comportamentos,

like asking permission before getting rid of all the oxygen in the atmosphere.

como pedir permissão antes de eliminarem todo o oxigénio na atmosfera.

In all these senses, control over the AI system

Em todos estes sentidos, o controlo sobre o sistema de IA

comes from the machine’s uncertainty about what the true objective is.

vem da incerteza da máquina sobre qual é o verdadeiro objetivo.

And it’s when you build machines that believe with certainty

E é quando se constroem máquinas que acreditam com certeza

that they have the objective,

que têm o objetivo,

that’s when you get this sort of psychopathic behavior.

é aí que obtêm este tipo de comportamento psicopata.

And I think we see the same thing in humans.

E penso que vemos o mesmo nos seres humanos.

What happens when general purpose AI hits the real economy?

O que acontece quando IA de objetivos gerais atinge a economia real?

How do things change? Can we adapt?

Como é que as coisas mudam? Podemos adaptar-nos?

This is a very old point.

Esta é uma questão muito antiga.

Amazingly, Aristotle actually has a passage where he says,

Surpreendentemente, Aristóteles tem uma passagem onde diz

look, if we had fully automated weaving machines

que se tivéssemos máquinas de tecer totalmente automatizadas

and plectrums that could pluck the lyre and produce music without any humans,

e palhetas que pudessem dedilhar a lira e produzir música sem seres humanos,

then we wouldn’t need any workers.

então não precisaríamos de trabalhadores.

That idea, which I think it was Keynes

Essa ideia, que penso que foi Keynes

who called it technological unemployment in 1930,

que a chamou de desemprego tecnológico em 1930,

is very obvious to people.

é muito óbvia para as pessoas.

They think, yeah, of course, if the machine does the work,

Elas pensam que se a máquina faz o trabalho,

then I'm going to be unemployed.

então vão ficar desempregadas.

You can think about the warehouses that companies are currently operating

Podem pensar nos armazéns que as empresas operam atualmente

for e-commerce, they are half automated.

para o comércio eletrónico, que são semi-automatizadas.

The way it works is that an old warehouse— where you’ve got tons of stuff piled up

A forma como funciona é que um armazém - onde se tem muita coisa amontoada

all over the place and humans go and rummage around

em todos os sítios e os humanos procuram as coisas

and then bring it back and send it off—

e depois trazem-nas e enviam-nas -

there’s a robot who goes and gets the shelving unit

existe um robô que vai à unidade de prateleiras

that contains the thing that you need,

que contém a coisa que se quer,

but the human has to pick the object out of the bin or off the shelf,

mas o ser humano tem de tirar o objeto do contentor ou da prateleira,

because that’s still too difficult.

porque isso ainda é muito difícil.

But, at the same time,

Mas, ao mesmo tempo,

would you make a robot that is accurate enough to be able to pick

fariam um robô que fosse suficientemente apurado para pegar

pretty much any object within a very wide variety of objects that you can buy?

em qualquer objeto numa variedade muito vasta de objetos que podem comprar?

That would, at a stroke, eliminate 3 or 4 million jobs?

Isso iria, de uma só vez, eliminar 3 ou 4 milhões de empregos?

There's an interesting story that E.M. Forster wrote,

Há uma história interessante escrita por E.M. Forster,

where everyone is entirely machine dependent.

onde todos são completamente dependentes de máquinas.

The story is really about the fact that if you hand over

A história é sobre o facto de que se passarmos

the management of your civilization to machines,

a gestão da civilização para as máquinas,

you then lose the incentive to understand it yourself

perdemos o incentivo de a compreender

or to teach the next generation how to understand it.

ou de ensinar a próxima geração a compreendê-la.

You can see “WALL-E” actually as a modern version,

Podem ver o “WALL-E” como uma versão moderna,

where everyone is enfeebled and infantilized by the machine,

onde todos são enfraquecidos e infantilizados pela máquina,

and that hasn’t been possible up to now.

e isso não foi possível até agora.

We put a lot of our civilization into books,

Pomos muita da nossa civilização em livros,

but the books can’t run it for us.

mas os livros não a gerem por nós.

And so we always have to teach the next generation.

Por isso, temos sempre de ensinar a próxima geração.

If you work it out, it’s about a trillion person years of teaching and learning

Se fizermos as contas, é cerca de 1 bilião de anos humanos a ensinar e aprender

and an unbroken chain that goes back tens of thousands of generations.

e uma cadeia inquebrável que remonta a dezenas de milhares de gerações.

What happens if that chain breaks?

O que acontece se essa cadeia quebrar?

I think that’s something we have to understand as AI moves forward.

Penso que é algo que temos de compreender à medida que a IA avança.

The actual date of arrival of general purpose AI—

A data de chegada exata da IA de objetivos gerais -

you’re not going to be able to pinpoint, it isn’t a single day.

não é possível identificá-la, não é um dia específico.

It’s also not the case that it’s all or nothing.

Também não é o caso de ser tudo ou nada.

The impact is going to be increasing.

O impacto será crescente.

So with every advance in AI,

Com cada avanço na IA,

it significantly expands the range of tasks.

o leque de tarefas expande-se significativamente.

So in that sense, I think most experts say by the end of the century,

Nesse sentido, penso que a maioria dos especialistas diz que no fim do século,

we’re very, very likely to have general purpose AI.

é muitíssimo provável que tenhamos IA de objetivos gerais.

The median is something around 2045.

A média é por volta de 2045.

I'm a little more on the conservative side.

Estou um pouco mais do lado conservador.

I think the problem is harder than we think.

Acho o problema mais difícil do que pensamos.

I like what John McAfee, he was one of the founders of AI,

Gosto do que John McAfee disse, um dos fundadores da IA,

when he was asked this question, he said, somewhere between five and 500 years.

quando lhe fizeram esta pergunta, ele disse entre 5 e 500 anos.

And we're going to need, I think, several Einsteins to make it happen.

E penso que vamos precisar de vários Einstein para que isso aconteça.