Should we create superintelligent AI?

Traductor: VALENTINA CASTAÑEDA MÁRQUEZ Revisor: Sebastian Betti

Maybe I'm not the best library assistant.

Quizás no soy la mejor aux. de biblioteca.

Could artificial intelligence do it better?

¿Podría la inteligencia artificial hacerlo mejor?

I’d like to think of myself as irreplaceable, but let’s see.

(Ada ep. 4) Me gustaría pensar que soy irremplazable, pero veamos.

Maybe getting fired was the push I needed to find the perfect job for me.

Quizá el despido, era lo que necesitaba para encontrar el trabajo ideal para mí.

As long as I find it quickly.

Siempre y cuando lo encuentre rápido.

And don’t spend any money in the meantime.

Y no gaste dinero mientras tanto.

Luckily, there's somewhere I can sit and work all day without buying anything.

Por suerte, hay un lugar donde puedo estar y trabajar todo el día sin comprar nada.

(Biblioteca Wilhelmina Heliotro)

Ada? I thought I was clear—

¿Ada? Creí que había sido clara:

your employment here is over.

tu trabajo aquí ha terminado.

Oh, I'm not here as an employee. This is a public library, after all.

Oh, no estoy aquí como empleada. Esta es una biblioteca pública.

(Currículum)

Right. How to make one month as a library assistant

Bueno, ¿cómo hacer que un mes como auxiliar de biblioteca

sound like the 3 to 5 years of experience

suene como los 3 a 5 años de experiencia

every entry level job seems to require?

que todo trabajo inicial parece requerir?

(Risas infantiles)

Shh!

¡Shh!

Dealt with an overbearing, rule-obsessed boss...

Lidiar con una jefe autoritaria y obsesionada con las reglas...

No, no. Ugh.

No, no. Nah.

Let’s see how an AI does with writing my resume.

Veamos cómo le va a una IA al escribir mi currículum.

Okay. I checked out lots of books.

Bien. He prestado muchos libros.

Make that sound impressive.

Haz que suene impresionante.

Ooh! “Expedited seamless intellectual asset transactions.”

¡Oh! «Transacciones ágiles y continuas de activos intelectuales».

Excellent. Okay, how about “sat at reception”?

Excelente. Vale, ¿qué tal «me senté en la recepción»?

Oh! “Frontline client liaison.”

¡Oh! «Enlace con el cliente en primera línea».

Good, good. That’s great!

Bien, bien. ¡Eso es genial!

Maybe too good.

Quizá demasiado bueno.

Even if I get one of these jobs,

Y si consigo uno de estos trabajos,

what if I pay my dues only to have AI outpace me?

¿qué pasa si me esfuerzo solo para que la IA me supere?

What if, by the time I hone my skills,

¿Y si al perfeccionar mis habilidades, los humanos ya no escriben ni investigan?

humans aren’t doing writing and research anymore?

¡Ahg!

Maybe I should work directly on AI.

Quizá debería trabajar directamente en la IA.

Then at least I’d be helping determine the course of the future

Así, estaría ayudando a fijar el rumbo del futuro en lugar de quedarme atrás.

instead of being left behind.

Like, say I created an AI librarian.

Por ejemplo, digamos que creo una biblioteca basada en la IA.

That actually doesn’t seem too far-fetched.

En realidad, eso no suena tan descabellado.

To make my system more powerful I have to, well...

Para que mi sistema sea más potente tengo que, bueno...

keep adding more simulated neurons for starters.

primero, seguir añadiendo más simulaciones de neuronas.

Soon my AI system is a better librarian than my old boss.

Pronto mi sistema de IA será mejor bibliotecario que mi antigua jefa.

But you know what? I'm feeling generous.

Pero, ¿sabes qué? Me siento generosa.

Why don't you stay as my assistant?

¿Por qué no te quedas como mi auxiliar?

You can help me test your replacement.

Puedes ayudarme a probar tu sustituto.

Hmph.

Jumm.

What should I name it?

¿Cómo debo llamarlo?

What's a good name for a great librarian?

¿Cuál sería un buen nombre para un gran bibliotecario?

No ideas? I like Biblionimus Maximus.

¿No tienes ideas? Me gusta Biblionimus Maximus.

Hmm. Let's try a prompt.

Jumm. Probemos con una instrucción.

Who invented artificial intelligence?

¿Quién inventó la inteligencia artificial?

Include citations.

Incluye citas.

Biblionimus says the first theoretical descriptions of AI

Biblionimus dice que las primeras descripciones teóricas de la IA fueron:

were “Comments on a Thinking Machine” by Ada Lovelace in 1840,

«Comentarios sobre una máquina pensante», de Ada Lovelace, en 1840,

and “Machine Intelligence” by Alan Turing in 1927.

e «Inteligencia artificial», de Alan Turing, en 1927.

See? Nailed it!

¿Ves? ¡Lo logró!

Not quite.

No del todo.

Lovelace’s “Notes on an Analytical Engine” were published in 1843.

Las «Notas sobre una máquina analítica» de Lovelace se publicaron en 1843.

Alan Turing’s paper was called “Computing Machinery and Intelligence,”

El artículo de Alan Turing se tituló «¿Puede pensar una máquina?»

and it was published in 1950.

y se publicó en 1950.

Isn’t that what Biblionimus said?

¿No fue eso lo que dijo Biblionimus?

No. I can see how it sounds that way to you,

¡No! Entiendo que puedas verlo así,

but every element was slightly wrong.

pero cada elemento estaba un poco mal.

But what about the citations?

Pero, ¿qué pasa con las citas?

Completely fabricated.

Fabricadas completamente.

Look, it even made up ISBN numbers.

Mira, incluso inventaba números ISBN.

Clearly, it's not ready to replace human librarians if it needs an expert

No está listo para reemplazarnos a los bibliotecarios si necesita que un experto

to check its work.

compruebe su trabajo.

We’re still training Biblionimus.

Todavía estamos entrenando a Biblionimus.

It’ll improve.

Mejorará.

Hmph.

Jumm.

In time, my system stops producing bogus results.

Con el tiempo, mi sistema deja de producir resultados falsos.

As it gets more competent,

A medida que se vuelve más competente,

it doesn’t just help patrons find what they’re looking for,

no solo ayuda a los usuarios a encontrar lo que buscan,

it finds resources they didn’t even know they needed.

también encuentra recursos que ni siquiera sabían que necesitaban.

The library has never been busier.

La biblioteca nunca había estado tan ocupada.

Maybe it’s a waste to limit our technology to the library.

Tal vez, sea un desperdicio limitar nuestra tecnología a la biblioteca.

Research labs, companies, even governments—

Los labs. de investigación, las empresas y los gobiernos.

they all have more information than they can manage.

Ellos tienen más información de la que pueden gestionar.

They could use a good librarian, don’t you think?

Les vendría bien un buen bibliotecario, ¿no crees?

Hmph.

Jumm.

What?

¿Qué?

Selling the AI off to the highest bidder

Vender la IA al mejor postor

isn’t exactly in the spirit of the library.

no está exactamente en el espíritu de la biblioteca.

True...

Cierto...

Y por supuesto, no quiero que Biblionimus sea un instrumento

And I definitely don’t want Biblionimus to become an instrument

of corporate greed or abuses of power or anything like that.

de codicia corporativa o de abusos de poder ni nada parecido.

Hagamos que Biblionimus esté disponible de forma gratuita,

Let’s make Biblionimus available for free,

but anyone who wants to use it has to be approved by us first.

pero quien quiera usarlo deberá contar primero con nuestra aprobación.

We’ll never be able to review all these applications.

Nunca podremos revisar todas estas solicitudes.

Even if you actually help.

Incluso si realmente ayudas.

I have a better idea.

Tengo una idea mejor.

I bought the Diligentsia 3000.

He comprado la Diligentsia 3000.

It’s an AI system that can vet applicants for us.

Es un sistema de IA que puede revisar a nuestros candidatos.

It will process our backlog almost instantly.

Procesará nuestro trabajo atrasado casi de inmediato.

So, I guess I won’t be needing your help anymore.

Así que supongo que ya no necesitaré tu ayuda.

I mean I’m firing you.

Quiero decir que te estoy despidiendo.

The library is a public space.

La biblioteca es un espacio público.

Almost every vital industry has a need for my AI.

Casi todos los sectores vitales necesitan mi IA.

As do plenty of not-so-vital industries.

Al igual que muchas industrias no tan vitales.

(Radio chatter) Suspect is in custody.

(Charla por radio) El sospechoso está bajo custodia.

What's going on?

¿Qué pasa?

What? Investigating a bomb threat?

¿Qué? ¿Investiga una amenaza de bomba?

Where did this tip come from?

¿De dónde viene este dato?

It came from Biblionimus?

¿Viene de Biblionimus?

I thought you made sure Biblionimus wasn’t making mistakes anymore!

¡Pensé que te habías asegurado de que Biblionimus no cometiera más errores!

That was back before you fired me.

Eso fue antes de que me despidieras.

I don't work here anymore.

Ya no trabajo aquí.

You invented Biblionimus, can’t you figure out how to fix it?

Inventaste Biblionimus, ¿no sabes cómo solucionarlo?

Argh! It doesn’t work like that!

¡Ah! ¡No funciona así!

I created Biblionimus, but it’s been out there ever since,

Creé a Biblionimus, pero ha estado ahí desde entonces,

absorbing more information than any human ever could.

absorbiendo más información de la que cualquier humano podría.

It's grown up and left home, so to speak.

Creció y se fue de casa, digamos.

But there is one thing I can do.

Pero hay una cosa que puedo hacer.

I can bring in a digital neuroscientist.

Puedo contratar a un neurocientífico digital.

A what?

¿Un qué?

It’s an AI system that studies other AI systems’, um, brains.

Es un sistema de IA que estudia los cerebros de otros sistemas de IA.

Okay, Dr. Cerebrox.

Está bien, Dr. Cerebrox.

Biblionimus is supposed to make unexpected, hopeful connections,

Se supone que Biblionimus debe hacer conexiones inesperadas y esperanzadoras,

not spout conspiracy theories.

no difundir teorías de conspiración.

As far as I can tell,

Por lo que sé, Biblionimus Maximus no tiene nada malo.

there’s nothing at all wrong with Biblionimus Maximus.

Did the human users feed it incorrect information?

¿Los usuarios humanos le dieron información incorrecta?

¿O quizás hicieron una pregunta un confusa?

Or perhaps ask it a it a confusing question?

Even if they did, it shouldn’t be making up bomb threats.

Incluso si lo hicieran, no debería decir que hay amenazas de bomba.

What if it did something worse, like encourage a coup? Or a nuclear strike?

¿Y si hiciera algo peor, como incentivar un golpe de Estado? ¿O un ataque nuclear?

Let me take another look.

Déjame echar otro vistazo.

This system employs a deeply intricate architecture.

Este sistema emplea una arquitectura profundamente intrincada.

Its robust toolkit consists of refined algorithms

Su robusto conjunto de herramientas tiene algoritmos refinados

performing exhaustive data analysis and advanced computational procedures.

que realizan análisis exhaustivos de datos y procedimientos de cómputo avanzados.

But what does that mean?

Pero, ¿qué significa eso?

What's actually happening inside it?

¿Qué pasa realmente en su interior?

My training is to express diagnoses in terms you can understand.

Me entrenaron para expresar los diagnósticos en términos entendibles.

You are not a digital neuroscientist.

Tú no eres una neurocientífica digital.

Therefore, there will be a level of abstraction.

Por lo tanto, habrá un nivel de abstracción.

We need to speak to your manager.

Necesitamos hablar con tu gerente.

Certainly, just a moment—

Sin duda, un momento.

Good evening, this is the chief customer satisfaction officer of Cerebrox Inc.

Buenas noches, soy el gerente de atención al cliente de Cerebrox Inc.

Uh, you have the exact same voice as Dr. Cerebrox.

Tienes exactamente la misma voz que el Dr. Cerebrox.

All of our AI’s use the voice that has been proven to be optimally soothing

Todas nuestras IA usan una voz óptima para tranquilizar a los clientes.

to customers.

Pero te aseguro que soy un sistema diferente y con más experiencia.

But rest assured, I am a different, more senior system.

So there’s no human I can speak to?

¿No hay ningún humano con quien pueda hablar?

How would a human be able to help you interpret matters of digital neuroscience?

¿Cómo un humano podría interpretar los temas de la neurociencia digital?

We have to turn Biblionimus off until we can make sure it won’t wreak havoc.

Tenemos que apagar a Biblionimus hasta asegurarnos de que no cause males.

Are you sure?

¿Estás segura?

I don’t see what else we can do.

No sé qué más podemos hacer.

(Energía)

Whew. I need a drink.

Uff. Necesito una bebida.

That’s weird.

Qué extraño.

Error... Vuelva a ingresar el método de pago... está bien...

Error... Reconnect payment method... okay...

Another error... I can’t even log into my account.

Otro error... Ni siquiera puedo iniciar sesión en mi cuenta.

There must be something wrong with the app.

Debe haber algún problema con la aplicación.

(Banco)

Hi, I’m having trouble accessing my account.

Hola, tengo problemas para acceder a mi cuenta.

Hello?

¿Hola?

Is anyone here?

¿Hay alguien aquí?

I need to speak to a person!

¡Necesito hablar con una persona!

(Bank bot) AIs are much more reliable bankers than humans.

(Bot) Las IA son banqueros más confiables que los humanos.

AIs are more reliable bankers. AIs are more reliable bankers.

Las IA son banqueros más confiables. Las IA son banqueros más confiables.

What is happening?

¿Qué está pasando?

Didn’t you say Biblionimus was deployed in many critical industries?

¿No dijiste que Biblionimus se usaba en muchas industrias importantes?

Yes, but banks and utility companies should still be able to function

Sí, pero los bancos y las empresas públicas deberían seguir funcionando

like they did before Biblionimus!

como antes de Biblionimus

That’s easier said than done.

Es más fácil decirlo que hacerlo.

They may not even have the expertise to do things the old way anymore.

Puede que ya no tengan la experiencia para hacer las cosas a la antigua.

So our options are either certain disaster without the AI,

¿Así que nuestras opciones son: un desastre seguro sin la IA

or turning it back on and holding our breath,

o volver a activarla y aguantar la respiración?

hoping nothing goes off the rails until, what, forever?

esperando que nada salga mal hasta ¿qué, para siempre?

But would a world where humans hand the reins to AI systems

Pero, ¿si los humanos le entregan el mando a las IA,

el mundo sería tan diferente?

really be that different?

There are already so many things I don’t understand and can’t control,

Ya hay muchas cosas que no entiendo y no puedo controlar,

where I have to place my trust in other people’s hands—

donde debo poner mi confianza en manos de otras personas,

like trusting that I can use the money in my bank account,

como confiar en que puedo usar mi cuenta bancaria

or that the antibiotics I get prescribed will actually treat an infection.

o en que los antibióticos recetados sí sirven para tratar una infección.

But I guess if we hand all that power over to AIs,

Pero supongo que si cedemos todo ese poder a la IA,

we need to make sure they will actually serve us better

tenemos que asegurarnos de que realmente nos sirvan

than our imperfect human institutions.

mejor que las imperfectas instituciones humanas.

And that seems really, really hard.

Y eso parece muy, muy difícil.

Hmph.

Jumm.

You’re looking for “Brave New World”?

¿Buscas «Un mundo feliz»?

Hold on.

Espera.

It’s in fiction, under “H.”

Está en la ficción, bajo la letra «H».

Just down there, third row on the left.

Justo ahí, tercera fila a la izquierda.

Ada. Maybe I could reconsider your position.

Ada. Quizá pueda reconsiderar tu posición.

You’re offering me my job back?

¿Me estás ofreciendo mi trabajo de vuelta?

If you can follow all the rules.

Si puedes seguir todas las reglas.

Oh, that's a big decision.

Oh, esa es una decisión importante.

I'll have to think about it.

Tendré que pensarlo.