Can we actually control superintelligent AI? | Ada, Ep. 4

Tradutor: Edivaldo Ferreira Revisor: Rosana Basilone Leite

Maybe I'm not the best library assistant.

Talvez eu não seja a melhor assistente de biblioteca.

Could artificial intelligence do it better?

A inteligência artificial poderia fazer melhor?

I’d like to think of myself as irreplaceable, but let’s see.

Gosto de pensar que sou insubstituível,

mas vamos ver.

Maybe getting fired was the push I needed to find the perfect job for me.

Talvez a demissão tenha sido o que eu precisava

para achar o emprego perfeito.

As long as I find it quickly.

Desde que eu o encontre logo.

And don’t spend any money in the meantime.

E não gaste nenhum dinheiro enquanto isso.

Luckily, there's somewhere I can sit and work all day without buying anything.

Felizmente, há um lugar onde posso ficar o dia todo sem comprar nada.

[Biblioteca]

Ada? I thought I was clear—

Ada? Acho que fui bastante clara:

your employment here is over.

você não trabalha mais aqui.

Oh, I'm not here as an employee. This is a public library, after all.

Não estou aqui como funcionária. Esta é uma biblioteca pública.

[Currículo]

Right. How to make one month as a library assistant

Certo. Como fazer com que um mês como assistente de biblioteca

sound like the 3 to 5 years of experience

pareça os três a cinco anos de experiência

every entry level job seems to require?

que todo emprego de nível básico parece exigir?

Shh!

Shh!

Dealt with an overbearing, rule-obsessed boss...

Lidei com uma chefe autoritária e obcecada por regras...

No, no. Ugh.

Não, não.

Let’s see how an AI does with writing my resume.

Vamos ver como uma IA escreveria o meu currículo.

Okay. I checked out lots of books.

Ok. Fiz o empréstimo de muitos livros.

Make that sound impressive.

Faça isso soar impressionante.

Ooh! “Expedited seamless intellectual asset transactions.”

Ah! “Transações rápidas e contínuas de ativos intelectuais.”

Excellent. Okay, how about “sat at reception”?

Excelente. Ok, que tal “fiquei na recepção”?

Oh! “Frontline client liaison.”

“Contato de primeira linha com clientes.”

Good, good. That’s great!

Bom, isso é ótimo!

Maybe too good.

Talvez bom demais.

Even if I get one of these jobs,

Mesmo que eu consiga um desses empregos,

what if I pay my dues only to have AI outpace me?

e se eu trabalhar tanto só para que a IA me supere?

What if, by the time I hone my skills,

E se quando aprimorar minhas habilidades,

humans aren’t doing writing and research anymore?

humanos não estiverem mais escrevendo e pesquisando?

Maybe I should work directly on AI.

Talvez eu devesse trabalhar diretamente com IA.

Then at least I’d be helping determine the course of the future

Pelo menos, eu estaria ajudando a determinar o curso do futuro

instead of being left behind.

em vez de ficar para trás.

Like, say I created an AI librarian.

Digamos que eu crie um bibliotecário de IA.

That actually doesn’t seem too far-fetched.

Na verdade, isso não parece muito exagerado.

To make my system more powerful I have to, well...

Para tornar meu sistema mais poderoso, preciso, bem...

keep adding more simulated neurons for starters.

continuar adicionando mais neurônios simulados para começar.

Soon my AI system is a better librarian than my old boss.

Logo minha IA será um bibliotecário melhor do que minha antiga chefe.

But you know what? I'm feeling generous.

Mas quer saber? Estou me sentindo generosa.

Why don't you stay as my assistant?

Que tal ficar como minha assistente? Pode me ajudar a testar seu substituto.

You can help me test your replacement.

Hmph.

(Resmunga)

What should I name it?

Como devo chamá-lo?

What's a good name for a great librarian?

Qual é um bom nome para um ótimo bibliotecário?

No ideas? I like Biblionimus Maximus.

Sem ideias?

Eu gosto de Biblionimus Maximus.

Hmm. Let's try a prompt.

Vamos tentar um prompt.

Who invented artificial intelligence?

Quem inventou a inteligência artificial?

Include citations.

Inclua citações.

Biblionimus says the first theoretical descriptions of AI

Biblionimus diz que as primeiras descrições teóricas da IA foram:

were “Comments on a Thinking Machine” by Ada Lovelace in 1840,

“Comentários Sobre uma Máquina Pensante”, de Ada Lovelace, em 1840,

and “Machine Intelligence” by Alan Turing in 1927.

e “Inteligência de Máquina”, de Alan Turing, em 1927.

See? Nailed it!

Viu? Acertou em cheio!

Not quite.

Não é bem assim.

Lovelace’s “Notes on an Analytical Engine” were published in 1843.

As “Notas Sobre uma Máquina Analítica” de Lovelace foram publicadas em 1843.

Alan Turing’s paper was called “Computing Machinery and Intelligence,”

O artigo de Alan Turing foi intitulado

“Máquinas de Computação e Inteligência” e foi publicado em 1950.

and it was published in 1950.

Isn’t that what Biblionimus said?

Não foi isso que Biblionimus disse?

No. I can see how it sounds that way to you,

Não. Entendo que soa certo para você,

but every element was slightly wrong.

mas cada elemento estava ligeiramente errado.

But what about the citations?

Mas e as citações?

Completely fabricated.

Totalmente inventadas.

Look, it even made up ISBN numbers.

Olha, inventou até os números do ISBN.

Clearly, it's not ready to replace human librarians if it needs an expert

Não está pronto para substituir bibliotecários humanos,

se precisar de um especialista para verificar seu trabalho.

to check its work.

We’re still training Biblionimus.

Ainda estamos treinando o Biblionimus.

It’ll improve.

Vai melhorar.

Hmph.

In time, my system stops producing bogus results.

Com o tempo, meu sistema para de produzir resultados falsos.

As it gets more competent,

À medida que fica mais competente,

it doesn’t just help patrons find what they’re looking for,

ele não só ajuda os usuários a encontrar o que estão procurando,

it finds resources they didn’t even know they needed.

mas encontra recursos que eles nem sabiam que precisavam.

The library has never been busier.

A biblioteca nunca esteve tão ocupada.

Maybe it’s a waste to limit our technology to the library.

Talvez seja desperdício limitar nossa tecnologia à biblioteca.

Research labs, companies, even governments—

Laboratórios de pesquisa, empresas e até governos,

they all have more information than they can manage.

eles têm mais informações do que podem gerenciar.

They could use a good librarian, don’t you think?

Eles poderiam usar um bom bibliotecário, não acha?

Hmph.

(Resmunga)

What?

O quê?

Selling the AI off to the highest bidder

Vender a IA para quem pagar mais

isn’t exactly in the spirit of the library.

não está exatamente no espírito da biblioteca.

True...

É verdade...

And I definitely don’t want Biblionimus to become an instrument

E eu não quero que o Biblionimus se torne um instrumento

of corporate greed or abuses of power or anything like that.

de ganância corporativa, abusos de poder ou algo parecido.

Let’s make Biblionimus available for free,

Vamos disponibilizar o Biblionimus gratuitamente,

but anyone who wants to use it has to be approved by us first.

mas quem quiser usá-lo precisa da nossa aprovação primeiro.

We’ll never be able to review all these applications.

Nunca poderemos analisar todos esses formulários.

Even if you actually help.

Mesmo se você realmente ajudar.

I have a better idea.

Eu tenho uma ideia melhor.

I bought the Diligentsia 3000.

Comprei o Diligentsia 3000.

It’s an AI system that can vet applicants for us.

É um sistema de IA que pode examinar os candidatos para nós.

It will process our backlog almost instantly.

Ele processará nossa lista de pendências instantaneamente.

So, I guess I won’t be needing your help anymore.

Então, acho que não vou mais precisar da sua ajuda.

I mean I’m firing you.

Quer dizer, estou demitindo você.

The library is a public space.

A biblioteca é um espaço público.

Almost every vital industry has a need for my AI.

Quase todos os setores vitais precisam da minha IA.

As do plenty of not-so-vital industries.

Assim como muitas indústrias não tão vitais.

(Radio chatter) Suspect is in custody.

(Conversa de rádio) Suspeito sob custódia.

What's going on?

O que está acontecendo?

What? Investigating a bomb threat?

O quê? Investigando uma ameaça de bomba?

Where did this tip come from?

De onde veio essa pista?

It came from Biblionimus?

Veio do Biblionimus?

I thought you made sure Biblionimus wasn’t making mistakes anymore!

Achei que você tinha certeza

de o Biblionimus não estar mais cometendo erros!

That was back before you fired me.

Isso foi antes de você me demitir.

I don't work here anymore.

Eu não trabalho mais aqui.

You invented Biblionimus, can’t you figure out how to fix it?

Você inventou o Biblionimus, não consegue descobrir como consertá-lo?

Argh! It doesn’t work like that!

Não funciona assim!

I created Biblionimus, but it’s been out there ever since,

Eu criei o Biblionimus, mas ele está disponível desde então,

absorbing more information than any human ever could.

absorvendo mais informações do que um humano jamais poderia.

It's grown up and left home, so to speak.

Cresceu e saiu de casa, por assim dizer.

But there is one thing I can do.

Mas há uma coisa que eu posso fazer.

I can bring in a digital neuroscientist.

Posso contratar um neurocientista digital.

A what?

Um o quê?

It’s an AI system that studies other AI systems’, um, brains.

É um sistema de IA que estuda os cérebros de outros sistemas de IA.

Okay, Dr. Cerebrox.

Ok, Dr. Cerebrox.

Biblionimus is supposed to make unexpected, hopeful connections,

Biblionimus deveria fazer conexões inesperadas e esperançosas,

not spout conspiracy theories.

não divulgar teorias da conspiração.

As far as I can tell,

Até onde eu sei,

there’s nothing at all wrong with Biblionimus Maximus.

não há nada de errado com Biblionimus Maximus.

Did the human users feed it incorrect information?

Os usuários humanos forneceram informações incorretas?

Or perhaps ask it a it a confusing question?

Ou talvez fizeram uma pergunta um pouco confusa?

Even if they did, it shouldn’t be making up bomb threats.

Mesmo que tenham feito, ele não deveria inventar ameaças de bomba.

What if it did something worse, like encourage a coup? Or a nuclear strike?

E se fosse algo pior, como encorajar um golpe? Ou um ataque nuclear?

Let me take another look.

Deixe-me dar outra olhada.

This system employs a deeply intricate architecture.

Esse sistema tem uma arquitetura profundamente intrincada.

Its robust toolkit consists of refined algorithms

Seu kit de ferramentas consiste em algoritmos refinados

performing exhaustive data analysis and advanced computational procedures.

que realizam análises exaustivas de dados e procedimentos computacionais avançados.

But what does that mean?

Mas o que isso significa?

What's actually happening inside it?

O que realmente está acontecendo dentro dele?

My training is to express diagnoses in terms you can understand.

Sou treinado para expressar diagnósticos em termos que você possa entender.

You are not a digital neuroscientist.

Você não é uma neurocientista digital.

Therefore, there will be a level of abstraction.

Por isso, haverá um nível de abstração.

We need to speak to your manager.

Precisamos falar com seu administrador.

Certainly, just a moment—

Claro, só um momento.

Good evening, this is the chief customer satisfaction officer of Cerebrox Inc.

Boa noite, aqui é o diretor de satisfação ao cliente da Cerebrox Inc.

Uh, you have the exact same voice as Dr. Cerebrox.

Uh, você tem exatamente a mesma voz do Dr. Cerebrox.

All of our AI’s use the voice that has been proven to be optimally soothing

Todos os nossos sistemas de IA usam a voz que comprovadamente

agrada nossos usuários.

to customers.

But rest assured, I am a different, more senior system.

Mas fique tranquila, sou um sistema diferente, mais sênior.

So there’s no human I can speak to?

Não tem nenhum humano com quem eu possa falar?

How would a human be able to help you interpret matters of digital neuroscience?

Como um humano poderia ajudar com questões da neurociência digital?

We have to turn Biblionimus off until we can make sure it won’t wreak havoc.

Precisamos desligar o Biblionimus até ter certeza de que ele não causará estragos.

Are you sure?

Tem certeza?

I don’t see what else we can do.

Não vejo o que mais podemos fazer.

Whew. I need a drink.

Ufa. Eu preciso de uma bebida.

That’s weird.

Isso é estranho.

Error... Reconnect payment method... okay...

Erro... “Reconecte método de pagamento”?

Certo.

Another error... I can’t even log into my account.

Outro erro...

Nem consigo entrar na minha conta.

There must be something wrong with the app.

Deve ter algo errado com o aplicativo.

Hi, I’m having trouble accessing my account.

Olá, estou tendo problemas para acessar minha conta bancária.

Hello?

Olá?

(Ruído estático)

Is anyone here?

Tem alguém aí?

I need to speak to a person!

Preciso falar com uma pessoa!

(Bank bot) AIs are much more reliable bankers than humans.

Robô: IA’s são muito mais confiáveis do que humanos.

AIs are more reliable bankers. AIs are more reliable bankers.

IA’s são bancários mais confiáveis. IA’s são bancários mais confiáveis.

What is happening?

O que está acontecendo?

Didn’t you say Biblionimus was deployed in many critical industries?

Você não disse que o Biblionimus foi implantado em muitos setores críticos?

Yes, but banks and utility companies should still be able to function

Sim, mas bancos e serviços públicos ainda deveriam poder funcionar

like they did before Biblionimus!

como antes do Biblionimus!

That’s easier said than done.

É mais fácil falar do que fazer.

They may not even have the expertise to do things the old way anymore.

Talvez eles nem tenham mais o conhecimento para fazer as coisas da maneira antiga.

So our options are either certain disaster without the AI,

Então, nossas opções são garantir um desastre sem a IA,

or turning it back on and holding our breath,

ou ligá-la novamente e prender a respiração,

hoping nothing goes off the rails until, what, forever?

esperando que nada saia dos trilhos, até quando? Para sempre?

But would a world where humans hand the reins to AI systems

Mas um mundo em que os humanos entregassem as rédeas aos sistemas de IA

really be that different?

seria realmente tão diferente?

There are already so many things I don’t understand and can’t control,

Já existem muitas coisas que não entendo e não consigo controlar,

where I have to place my trust in other people’s hands—

em que preciso pôr minha confiança nas mãos de outras pessoas,

like trusting that I can use the money in my bank account,

como confiar que posso usar o dinheiro da minha conta bancária

or that the antibiotics I get prescribed will actually treat an infection.

ou que os antibióticos que recebo realmente vão tratar uma infecção.

But I guess if we hand all that power over to AIs,

Mas acho que se entregarmos todo esse poder às IAs,

we need to make sure they will actually serve us better

precisamos ter certeza de que elas vão nos servir melhor

than our imperfect human institutions.

do que fazem as nossas instituições humanas imperfeitas.

And that seems really, really hard.

E isso parece muito, muito difícil.

Hmph.

You’re looking for “Brave New World”?

Você está procurando por “Admirável Mundo Novo”?

Hold on.

Espere um pouco.

It’s in fiction, under “H.”

Está na ficção, na letra “H”.

Just down there, third row on the left.

Logo ali embaixo, terceira fila à esquerda.

Ada. Maybe I could reconsider your position.

Ada. Talvez eu possa reconsiderar sua posição.

You’re offering me my job back?

Está me oferecendo meu emprego de volta?

If you can follow all the rules.

Se você puder seguir todas as regras.

Oh, that's a big decision.

Essa é uma grande decisão.

I'll have to think about it.

Vou ter de pensar sobre isso.