Can AI have a mind of its own? ⏲️ 6 Minute English

Hello. This is 6 Minute English from

Hola. Esto es 6 minutos de inglés de

BBC Learning English. I’m Sam.

BBC Learning English. Soy Sam.

And I’m Neil.

Y yo soy Neil.

In the autumn of 2021, something

En el otoño de 2021, algo

strange happened at the Google

extraño sucedió en la

headquarters in California’s Silicon

sede de Google en Silicon

Valley. A software engineer called,

Valley, California. Un ingeniero de software llamado

Blake Lemoine, was working on the

Blake Lemoine estaba trabajando en el

artificial intelligence project, ‘Language

proyecto de inteligencia artificial, '

Models for Dialogue Applications’, or

Modelos de lenguaje para aplicaciones de diálogo', o

LaMDA for short. LaMDA is a

LaMDA para abreviar. LaMDA es un

chatbot – a computer programme

chatbot, un programa informático

designed to have conversations with

diseñado para tener conversaciones con

humans over the internet.

humanos a través de Internet.

After months talking with LaMDA

Después de meses hablando con LaMDA

on topics ranging from movies to

sobre temas que van desde películas hasta

the meaning of life, Blake came to

el sentido de la vida, Blake llegó a

a surprising conclusion: the chatbot

una conclusión sorprendente: el chatbot

was an intelligent person with wishes

era una persona inteligente con deseos

and rights that should be respected.

y derechos que debían respetarse.

For Blake, LaMDA was a Google

Para Blake, LaMDA era un

employee, not a machine.

empleado de Google, no una máquina.

He also called it his ‘friend’.

También lo llamó su 'amigo'.

Google quickly reassigned Blake from

Google reasignó rápidamente a Blake

the project, announcing that his ideas

del proyecto y anunció que sus ideas

were not supported by the evidence.

no estaban respaldadas por la evidencia.

But what exactly was going on?

Pero, ¿qué estaba pasando exactamente?

In this programme, we’ll be

En este programa,

discussing whether artificial intelligence

discutiremos si la inteligencia artificial

is capable of consciousness. We’ll hear

es capaz de tener conciencia. Escucharemos

from one expert who thinks AI is not as

a un experto que piensa que la IA no es tan

intelligent as we sometimes think,

inteligente como a veces pensamos

and as usual, we’ll be learning some

y, como de costumbre, también aprenderemos

new vocabulary as well.

vocabulario nuevo.

But before that, I have a question for

Pero antes de eso, tengo una pregunta para

you, Neil. What happened to Blake Lemoine

ti, Neil. Lo que le sucedió a Blake Lemoine

is strangely similar to the 2013 Hollywood

es extrañamente similar a la película de Hollywood de 2013

movie, Her, starring Joaquin Phoenix as

, Her, protagonizada por Joaquin Phoenix como

a lonely writer who talks with his

un escritor solitario que habla con su

computer, voiced by Scarlett Johansson.

computadora, con la voz de Scarlett Johansson.

But what happens at the end

Pero, ¿qué sucede al final

of the movie? Is it:

de la película? Es:

a) the computer comes to life?

a) ¿la computadora cobra vida?

b) the computer dreams about the writer? or,

b) la computadora sueña con el escritor? o,

c) the writer falls in love with the computer?

c) el escritor se enamora de la computadora?

... c) the writer falls in love with the computer.

... c) el escritor se enamora de la computadora.

OK, Neil, I’ll reveal the answer at the end

Bien, Neil, revelaré la respuesta al final

of the programme. Although Hollywood is

del programa. Aunque Hollywood está

full of movies about robots coming to life,

lleno de películas sobre robots que cobran vida,

Emily Bender, a professor of linguistics and

Emily Bender, profesora de lingüística y

computing at the University of Washington,

computación en la Universidad de Washington,

thinks AI isn’t that smart. She thinks the

cree que la IA no es tan inteligente. Ella piensa que las

words we use to talk about technology,

palabras que usamos para hablar de tecnología,

phrases like ‘machine learning’, give a

frases como "aprendizaje automático", dan una

false impression about what

impresión falsa sobre lo que las

computers can and can’t do.

computadoras pueden y no pueden hacer.

Here is Professor Bender discussing

Aquí está el profesor Bender discutiendo

another misleading phrase, ‘speech

otra frase engañosa, '

recognition’, with BBC World Service

reconocimiento de voz', con el programa del Servicio Mundial de la

programme, The Inquiry:

BBC, The Inquiry:

If you talk about ‘automatic speech

Si habla de '

recognition’, the term ‘recognition’

reconocimiento de voz automático', el término 'reconocimiento'

suggests that there's something

sugiere que está

cognitive going on, where I think a

ocurriendo algo cognitivo, donde creo que un

better term would be automatic transcription.

mejor término sería transcripción automática.

That just describes the input-output

Eso solo describe la relación de entrada-

relation, and not any theory or wishful

salida, y no cualquier teoría o

thinking about what the computer is

ilusión sobre lo que está haciendo la computadora

doing to be able to achieve that.

para poder lograr eso.

Using words like ‘recognition’ in relation

El uso de palabras como "reconocimiento" en relación

to computers gives the idea that

con las computadoras da la idea de que

something cognitive is happening – something

algo cognitivo está sucediendo, algo

related to the mental processes of

relacionado con los procesos mentales de

thinking, knowing, learning and understanding.

pensar, conocer, aprender y comprender.

But thinking and knowing are human,

Pero pensar y conocer son actividades humanas

not machine, activities. Professor Benders

, no mecánicas. El profesor Benders

says that talking about them in connection

dice que hablar de ellos en relación

with computers is wishful thinking -

con las computadoras es una ilusión,

something which is unlikely to happen.

algo que es poco probable que suceda.

The problem with using words in this

El problema de usar palabras de esta

way is that it reinforces what

manera es que refuerza lo que el

Professor Bender calls, technical

profesor Bender llama

bias – the assumption that the computer

sesgo técnico: la suposición de que la

is always right. When we encounter

computadora siempre tiene la razón. Cuando nos encontramos con un

language that sounds natural, but is

lenguaje que suena natural, pero que

coming from a computer, humans

proviene de una computadora, los humanos

can’t help but imagine a mind behind

no pueden evitar imaginar una mente detrás

the language, even when there isn’t one.

del lenguaje, incluso cuando no la hay.

In other words, we anthropomorphise

En otras palabras, antropomorfizamos las

computers – we treat them as if they

computadoras, las tratamos como si

were human. Here’s Professor Bender

fueran humanos. Aquí está el profesor Bender

again, discussing this idea with

nuevamente, discutiendo esta idea con

Charmaine Cozier, presenter of BBC

Charmaine Cozier, presentadora

World Service’s, the Inquiry.

de la Investigación del Servicio Mundial de la BBC.

So ‘ism’ means system, ‘anthro’ or ‘anthropo’

Entonces 'ismo' significa sistema, 'anthro' o 'anthropo'

means human, and ‘morph’ means shape...

significa humano, y 'morph' significa forma...

And so this is a system that puts the

Y entonces este es un sistema que pone la

shape of a human on something, and

forma de un ser humano en algo, y

in this case the something is a computer.

en este caso ese algo es un computadora.

We anthropomorphise animals all the time,

Siempre antropomorfizamos animales,

but we also anthropomorphise action figures,

pero también antropomorfizamos figuras de acción,

or dolls, or companies when we talk about

muñecos o empresas cuando hablamos de

companies having intentions and so on.

empresas que tienen intenciones, etc.

We very much are in the habit of seeing

Estamos muy acostumbrados a vernos a

ourselves in the world around us.

nosotros mismos en el mundo que nos rodea.

And while we’re busy seeing ourselves

Y mientras estamos ocupados viéndonos a nosotros mismos

by assigning human traits to things that

asignando rasgos humanos a cosas

are not, we risk being blindsided.

que no lo son, corremos el riesgo de ser sorprendidos.

The more fluent that text is, the more

Cuanto más fluido sea el texto, más

different topics it can converse on, the

temas diferentes sobre los que se puede conversar,

more chances there are to get taken in.

más posibilidades hay de que

If we treat computers as if they could think,

nos engañen. Si tratamos a las computadoras como si pudieran pensar,

we might get blindsided, or

es posible que nos tomen por sorpresa o nos

unpleasantly surprised. Artificial intelligence

sorprendan desagradablemente. La inteligencia artificial

works by finding patterns in massive

funciona al encontrar patrones en

amounts of data, so it can seem like

cantidades masivas de datos, por lo que puede parecer

we’re talking with a human, instead

que estamos hablando con un humano, en lugar

of a machine doing data analysis.

de una máquina que realiza el análisis de datos.

As a result, we get taken in – we’re tricked

Como resultado, nos

or deceived into thinking we’re dealing

engañan: nos engañan o engañan para que pensemos que estamos tratando

with a human, or with something intelligent.

con un ser humano o con algo inteligente.

Powerful AI can make machines appear conscious,

La poderosa IA puede hacer que las máquinas parezcan conscientes,

but even tech giants like Google are years

pero incluso los gigantes tecnológicos como Google están a

away from building computers that can

años de construir computadoras que puedan

dream or fall in love. Speaking of which,

soñar o enamorarse. Hablando de eso,

Sam, what was the answer to your question?

Sam, ¿cuál fue la respuesta a tu pregunta?

I asked what happened in the 2013 movie, Her.

Pregunté qué pasó en la película de 2013, Her.

Neil thought that the main character

Neil pensó que el personaje principal

falls in love with his computer, which

se enamora de su computadora, ¡que

was the correct answer!

era la respuesta correcta!

OK. Right, it’s time to recap the vocabulary

ESTÁ BIEN. Correcto, es hora de recapitular el vocabulario

we’ve learned from this programme about AI,

que hemos aprendido de este programa sobre IA,

including chatbots - computer programmes

incluidos los chatbots, programas informáticos

designed to interact with

diseñados para interactuar con

humans over the internet.

humanos a través de Internet.

The adjective cognitive describes

El adjetivo cognitivo describe

anything connected with the mental

todo lo relacionado con los

processes of knowing,

procesos mentales de conocer,

learning and understanding.

aprender y comprender.

Wishful thinking means thinking that

Las ilusiones significan pensar que

something which is very unlikely to happen

algo que es muy poco probable que suceda

might happen one day in the future.

podría suceder algún día en el futuro.

To anthropomorphise an object means

Antropomorfizar un objeto

to treat it as if it were human,

significa tratarlo como si fuera humano,

even though it’s not.

aunque no lo sea.

When you’re blindsided, you’re

Cuando te sorprenden, te

surprised in a negative way.

sorprendes de manera negativa.

And finally, to get taken in by someone means

Y finalmente, dejarse engañar por alguien

to be deceived or tricked by them.

significa ser engañado o engañado por ellos.

My computer tells me that our six minutes

¡Mi computadora me dice que nuestros seis

are up! Join us again soon, for now

minutos terminaron! Vuelva a unirse a nosotros pronto, por

it’s goodbye from us.

ahora es nuestro adiós.

Bye!

¡Adiós!