Is AI the most important technology of the century?

Tradutor: Eliana Santos Revisora: Nadia Tira

What's the most important century in human history?

Qual é o século mais importante na História da Humanidade?

Alguns poderão defender

Some might argue it’s a period of extensive military campaigning,

que será um período de extensas campanhas militares,

like Alexander the Great’s in the 300s BCE,

como as de Alexandre, o Grande, no quarto século a.C.,

which reshaped political and cultural borders.

que remodelaram fronteiras políticas e culturais.

Others might cite the emergence of a major religion,

Outros poderão citar o surgimento de uma religião importante,

such as Islam in the 7th century,

como o Islão no século VII,

which codified and spread values across such borders.

que codificou e espalhou valores além fronteiras.

Or perhaps it’s the Industrial Revolution of the 1700s

Ou talvez seja a Revolução Industrial do século XVIII

that transformed global commerce

que transformou o comércio global

and redefined humanity's relationship with labor.

e redefiniu a relação da Humanidade com o trabalho.

Independentemente da resposta,

Whatever the answer, it seems like any century vying for that top spot

parece que qualquer século que lute pelo primeiro lugar

is at a moment of great change—

está num momento de grande mudança -

when the actions of our ancestors shifted humanity’s trajectory

quando as ações dos nossos antepassados mudaram a trajetória da Humanidade

for centuries to come.

para sempre.

So if this is our metric, is it possible that right now—

Então, se esta for a nossa métrica, será possível que o presente -

this century— is the most important one yet?

este século - seja o mais importante até agora?

The 21st century has already proven to be a period of rapid technological growth.

O século XXI já provou ser um período de rápido crescimento tecnológico.

Phones and computers have accelerated the pace of life.

Os telefones e os computadores aceleraram o ritmo da vida.

And we’re likely on the cusp of developing new transformative technologies,

E provavelmente estamos prestes

a desenvolver tecnologias transformadoras,

like advanced artificial intelligence,

como inteligência artificial avançada,

that could entirely change the way people live.

que poderão mudar completamente o modo como as pessoas vivem.

Meanwhile, many technologies we already have

Entretanto, muitas tecnologias que já temos

contribute to humanity’s unprecedented levels of existential risk—

contribuem para níveis sem precedentes de risco existencial da Humanidade -

that’s the risk of our species going extinct

o risco de a nossa espécie se extinguir

or experiencing some kind of disaster that permanently limits

ou de passar por algum tipo de desastre que limite permanentemente

humanity’s ability to grow and thrive.

a capacidade da Humanidade de crescer e prosperar.

The invention of the atomic bomb marked a major rise in existential risk,

A invenção da bomba atómica marcou um grande aumento no risco existencial,

and since then we’ve only increased the odds against us.

e desde então só temos aumentado as probabilidades contra nós.

It’s profoundly difficult to estimate the odds

É extremamente difícil fazer a estimativa das probabilidades

of an existential collapse occurring this century.

de um colapso existencial acontecer neste século.

Very rough guesses put the risk of existential catastrophe

Estimativas muito vagas põem o risco de uma catástrofe existencial

due to nuclear winter and climate change at around 0.1%,

devido a um inverno nuclear e alterações climáticas em cerca de 0,1%,

with the odds of a pandemic causing the same kind of collapse

com a probabilidade de uma pandemia causar o mesmo tipo de colapso

at a frightening 3%.

nuns assustadores 3%.

Given that any of these disasters could mean the end of life as we know it,

Visto que qualquer um destes desastres

poderia significar o fim da vida como a conhecemos,

these aren’t exactly small figures,

estes não são exatamente números pequenos,

And it’s possible this century could see the rise of new technologies

e é possível que neste século possam surgir novas tecnologias

that introduce more existential risks.

que introduzam mais riscos existenciais.

Os peritos de IA têm uma grande variedade de estimativas

AI experts have a wide range of estimates regarding

when artificial general intelligence will emerge,

sobre quando a inteligência artificial despontará,

but according to some surveys, many believe it could happen this century.

mas segundo alguns inquéritos, muitos pensam

que poderá acontecer neste século.

Currently, we have relatively narrow forms of artificial intelligence,

Atualmente, temos formas de inteligência artificial relativamente limitadas,

which are designed to do specific tasks like play chess or recognize faces.

que são criadas para fazer tarefas especificas,

como jogar xadrez ou reconhecer caras.

Mesmo as formas limitadas de inteligência artificial que fazem algo criativo

Even narrow AIs that do creative work are limited to their singular specialty.

estão limitadas a essa única especialidade.

But artificial general intelligences, or AGIs,

Mas as inteligências artificiais gerais, ou AGIs,

would be able to adapt to and perform any number of tasks,

seriam capazes de se adaptarem e realizarem qualquer número de tarefas,

quickly outpacing their human counterparts.

rapidamente ultrapassando os seus pares humanos.

There are a huge variety of guesses about what AGI could look like,

Há uma enorme variedade de estimativas sobre como seria a AGI

and what it would mean for humanity to share the Earth

e o que significaria para a Humanidade ter de partilhar a Terra

with another sentient entity.

com outra entidade senciente.

AGIs might help us achieve our goals,

As AGIs poderão ajudar-nos a concretizar os nossos objetivos,

they might regard us as inconsequential,

poderão considerar-nos inconsequentes,

or, they might see us as an obstacle to swiftly remove.

ou, poderão ver-nos como um obstáculo para ser removido rapidamente.

So in terms of existential risk,

Então, em termos de riscos existenciais,

it's imperative the values of this new technology align with our own.

é imperativo que os valores desta nova tecnologia se alinhem com os nossos.

This is an incredibly difficult philosophical and engineering challenge

Isto é um desafio filosófico e de engenharia incrivelmente difícil

that will require a lot of delicate, thoughtful work.

que requererá muito trabalho delicado e ponderado.

Yet, even if we succeed, AGI could still lead to another complicated outcome.

Mesmo assim, mesmo que sejamos bem-sucedidos,

a AGI ainda nos poderá levar a outro desfecho complicado.

Let’s imagine an AGI emerges with deep respect for human life

Vamos imaginar que uma AGI surge com um profundo respeito pela vida humana

and a desire to solve all humanity’s troubles.

e com um desejo de resolver todos os problemas da Humanidade.

But to avoid becoming misaligned,

Mas para evitar desalinhamentos,

it's been developed to be incredibly rigid about its beliefs.

foi criada para ser incrivelmente rígida nas suas crenças.

If these machines became the dominant power on Earth,

Se estas máquinas se tornarem no poder dominante na Terra,

their strict values might become hegemonic,

os seus valores restritos poderão tornar-se hegemónicos,

locking humanity into one ideology that would be incredibly resistant to change.

prendendo a Humanidade a uma ideologia

que seria incrivelmente resistente à mudança.

History has taught us that no matter how enlightened

A História tem-nos ensinado que não importa o quão educada

a civilization thinks they are,

uma civilização se considerada,

they are rarely up to the moral standards of later generations.

raramente corresponde aos padrões morais das gerações posteriores.

And this kind of value lock in could permanently distort or constrain

E este tipo de bloqueio de valores pode distorcer ou restringir permanentemente

humanity’s moral growth.

o crescimento moral da Humanidade.

There's a ton of uncertainty around AGI,

Há imensas incertezas sobre a AGI

and it’s profoundly difficult to predict how any existential risks

e é profundamente difícil prever quantos riscos existenciais

will play out over the next century.

irão ocorrer no próximo século.

It’s also possible that new, more pressing concerns

Também é possível que preocupações novas e mais urgentes

might render these risks moot.

possam tornar estes riscos discutíveis.

But even if we can't definitively say that ours is the most important century,

Mas mesmo que não possamos mesmo dizer que o nosso século é o mais importante,

it still seems like the decisions we make might have a major impact

ainda assim parece que as decisões que tomamos podem ter um grande impacto

on humanity’s future.

no futuro da Humanidade.

So maybe we should all live like the future depends on us—

Por isso, talvez devêssemos todos viver como se o futuro dependesse de nós,

because actually, it just might.

porque, na verdade, pode mesmo depender.