Is AI the most important technology of the century?

Tradutor: Maisa Leandro Revisor: Fernanda Ferreira

What's the most important century in human history?

Qual é o século mais importante na história da humanidade?

Some might argue it’s a period of extensive military campaigning,

Alguns podem argumentar que é um período de extensa campanha militar,

like Alexander the Great’s in the 300s BCE,

como a do Alexandre, O Grande, em 300 AC,

which reshaped political and cultural borders.

o que reformulou fronteiras políticas e culturais.

Others might cite the emergence of a major religion,

Outros podem citar a criação de uma religião importante,

such as Islam in the 7th century,

como o Islamismo no século VII,

which codified and spread values across such borders.

o que codificou e espalhou valores entre fronteiras.

Or perhaps it’s the Industrial Revolution of the 1700s

Ou talvez seja a Revolução Industrial de 1700

that transformed global commerce

que transformou o comércio global

and redefined humanity's relationship with labor.

e redefiniu a relação da humanidade com o trabalho.

Whatever the answer, it seems like any century vying for that top spot

Independente da resposta,

parece que qualquer século que está competindo por essa posição

is at a moment of great change—

está em um momento de grande mudança-

when the actions of our ancestors shifted humanity’s trajectory

quando as ações de nossos ancestrais mudaram a tragetória humana

for centuries to come.

nos séculos que estavam por vir.

So if this is our metric, is it possible that right now—

Se essa é a nossa definição, é possível que agora,

this century— is the most important one yet?

esse século, seja o mais importante?

The 21st century has already proven to be a period of rapid technological growth.

O século XXI já se provou ser um período de rápido crescimento tecnológico.

Phones and computers have accelerated the pace of life.

Celulares e computadores aceleram o andamento da vida.

And we’re likely on the cusp of developing new transformative technologies,

E nós estamos, provavelmente,

no pico de desenvolver novas tecnologias transformadoras

like advanced artificial intelligence,

como inteligência artificial avançada,

that could entirely change the way people live.

que pode mudar totalmente a forma como as pessoas vivem.

Meanwhile, many technologies we already have

Por enquanto, muitas tecnologias que já temos

contribute to humanity’s unprecedented levels of existential risk—

contribuem para os níveis sem precedentes de risco existencial da humanidade,

that’s the risk of our species going extinct

esse é o risco da nossa espécie ser extinta

or experiencing some kind of disaster that permanently limits

ou passar por algum tipo de desastre que limite permanentemente

a habilidade humana de crescer e prosperar.

humanity’s ability to grow and thrive.

The invention of the atomic bomb marked a major rise in existential risk,

A invenção da bomba atômica marcou um grande crescimento no risco existencial,

and since then we’ve only increased the odds against us.

e desde então nós estamos apenas aumentando as chances contra nós mesmos.

It’s profoundly difficult to estimate the odds

É profundamente difícil estimar as chances

of an existential collapse occurring this century.

de um colapso existencial ocorrendo nesse século.

Very rough guesses put the risk of existential catastrophe

Alguns palpites bem aproximados colocam o risco de uma catástrofe

due to nuclear winter and climate change at around 0.1%,

causada por um inverno nuclear ou mudanças climáticas em cerca de 0.1%,

with the odds of a pandemic causing the same kind of collapse

e as chances de uma pandemia causar o mesmo tipo de colapso

at a frightening 3%.

em assustadores 3%.

Considerando que qualquer um desses desastres poderiam

Given that any of these disasters could mean the end of life as we know it,

significar o fim da vida como conhecemos,

these aren’t exactly small figures,

essas não são exatamente pequenas porcentagem,

And it’s possible this century could see the rise of new technologies

E é possível que esse século veja o crescimento de novas tecnologias

that introduce more existential risks.

que introduzem mais riscos a existência.

Especialistas em IA tem uma grande variedade de estimativas referentes

AI experts have a wide range of estimates regarding

when artificial general intelligence will emerge,

a quando a inteligência artificial geral irá despontar

but according to some surveys, many believe it could happen this century.

mas de acordo com algumas pesquisas,

muitos acreditam que possa acontecer nesse século.

Atualmente, nós temos formas relativamente limitadas de inteligência artificial,

Currently, we have relatively narrow forms of artificial intelligence,

which are designed to do specific tasks like play chess or recognize faces.

que são programadas para realizar

tarefas específicas como jogar xadrez ou reconhecer rostos

Even narrow AIs that do creative work are limited to their singular specialty.

Mesmo essas IAs que fazem um trabalho criativo

são limitas á suas especialidades singulares.

But artificial general intelligences, or AGIs,

Mas inteligências artificiais gerais,

ou AGIs, serão capazes de se adaptar ou realizar qualquer número de tarefas,

would be able to adapt to and perform any number of tasks,

quickly outpacing their human counterparts.

rapidamente ultrapassando seus equivalentes humanos

There are a huge variety of guesses about what AGI could look like,

Há uma grande variedade de palpites sobre como a AGI poderia parecer,

and what it would mean for humanity to share the Earth

e o que significaria para a humanidade compartilhar a Terra

with another sentient entity.

com outros seres autoconscientes.

AGIs might help us achieve our goals,

AGIs podem nos ajudar a alcançar nossos objetivos

they might regard us as inconsequential,

elas podem nos considerar inconsequentes

or, they might see us as an obstacle to swiftly remove.

ou elas podem nos ver como um obstáculo a ser rapidamente removido.

So in terms of existential risk,

Em termos de perigo existencial,

it's imperative the values of this new technology align with our own.

é indispensável que os valores dessa nova tecnologia se alinhem com os nossos.

This is an incredibly difficult philosophical and engineering challenge

Esse é um desafio filosófico e de engenharia incrivelmente difícil

that will require a lot of delicate, thoughtful work.

que vai exigir muito trabalho delicado e bem pensado.

Yet, even if we succeed, AGI could still lead to another complicated outcome.

No entanto, mesmo que tenhamos sucesso,

a AGI poderia ainda levar a outro resultado complicado.

Let’s imagine an AGI emerges with deep respect for human life

Vamos imaginar que uma AGI surja com um profundo respeito pela vida humana

and a desire to solve all humanity’s troubles.

e com um desejo de resolver todos os problemas da humanidade.

But to avoid becoming misaligned,

Para evitar o desalinhamento,

it's been developed to be incredibly rigid about its beliefs.

ela foi desenvolvida para ser incrivelmente

rígida sobre suas crenças.

If these machines became the dominant power on Earth,

Se essas máquinas se tornarem o poder dominante na Terra,

their strict values might become hegemonic,

seus valores rígidos podem se tornar hegemônicos,

locking humanity into one ideology that would be incredibly resistant to change.

prendendo a humanidade em uma ideologia

que seria incrivelmente resistente a mudança.

History has taught us that no matter how enlightened

História nos ensinou que independente do quão sábia

a civilization thinks they are,

uma civilização pensa que é

they are rarely up to the moral standards of later generations.

raramente estão à altura dos padrões morais das gerações posteriores.

And this kind of value lock in could permanently distort or constrain

E este tipo de bloqueio de valores

poderia distorcer ou restringir permanentemente

humanity’s moral growth.

o crescimento moral da humanidade.

There's a ton of uncertainty around AGI,

Existe um monte de incertezas sobre AGI,

and it’s profoundly difficult to predict how any existential risks

e é profundamente difícil prever como quaisquer riscos existenciais

will play out over the next century.

irão surgir conforme o próximo século.

It’s also possible that new, more pressing concerns

Também é possível que novas preocupações mais urgentes

might render these risks moot.

possam tornar estes riscos discutíveis.

But even if we can't definitively say that ours is the most important century,

Mesmo que nós não possamos dizer definitivamente

que o nosso é o século mais importante,

it still seems like the decisions we make might have a major impact

ainda parece que as decisões que tomamos poderão ter um grande impacto

on humanity’s future.

no futuro da humanidade.

So maybe we should all live like the future depends on us—

Talvez, todos nós devêssemos viver

como se o futuro dependesse da gente

because actually, it just might.

porque, na verdade, talvez dependa.