Should we fear chatbots? ⏲️ 6 Minute English

Hello. This is 6 Minute English

Hola. Esto es 6 minutos de inglés

from BBC Learning English.

de BBC Learning English.

I'm Neil.

And I'm Rob.

soy neil

Y yo soy Rob.

Now, I'm sure most of us have interacted with a chatbot.

Ahora, estoy seguro de que la mayoría de nosotros hemos interactuado con un chatbot.

These are bits of computer technology that respond to text with text

Estos son fragmentos de tecnología informática que responden a texto con texto

or respond to your voice.

o responden a su voz. Le

You ask it a question and usually it comes up

haces una pregunta y normalmente te da

with an answer.

una respuesta.

Yes, it's almost like talking to another human.

Sí, es casi como hablar con otro ser humano.

But of course, it's not.

Pero por supuesto, no lo es.

It's just a clever piece of technology.

Es solo una pieza inteligente de tecnología.

It's becoming more sophisticated, more advanced and complex,

Se está volviendo más sofisticado, más avanzado y complejo,

but could they replace real human interaction altogether?

pero ¿podrían reemplazar por completo la interacción humana real?

We'll discuss that more in a moment and find out if chatbots

Discutiremos eso más en un momento y descubriremos si los chatbots

really think for themselves. But first,

realmente piensan por sí mismos. Pero primero,

I have a question for you, Rob. The first computer program that allowed

tengo una pregunta para ti, Rob. El primer programa informático que permitió

some kind of plausible conversation between humans and machines

algún tipo de conversación plausible entre humanos y máquinas

was invented in 1966.

se inventó en 1966.

But what was it called?

Pero, ¿cómo se llamaba? ¿

Was it a) Alexa.

Fue a) Alexa.

b) Eliza, or c) Parry? Well, it's not Alexa,

b) Eliza, o c) Parry? Bueno, no es Alexa,

that's too new, so I'll guess

eso es demasiado nuevo, así que supongo que

c) Parry.

c) Parry.

I'll reveal the answer at the end of the programme.

Revelaré la respuesta al final del programa.

Now, the old chatbots of the 1960s and 70s were quite basic.

Ahora, los viejos chatbots de los años 60 y 70 eran bastante básicos.

But more recently, the technology is able to predict the next word that is

Pero más recientemente, la tecnología puede predecir la siguiente palabra que

likely to be used in a sentence and it learns words and sentence structures.

probablemente se usará en una oración y aprende palabras y estructuras de oraciones.

It's clever stuff.

Es algo inteligente.

I've experienced using them when talking to my bank

He experimentado su uso cuando hablo con mi banco

or when I have problems trying to book a ticket on a website.

o cuando tengo problemas al intentar reservar un billete en un sitio web.

I no longer phone a human,

Ya no llamo a un humano,

I speak to a virtual assistant instead.

hablo con un asistente virtual.

Probably the most well known chatbot at the moment

Probablemente el chatbot más conocido en este momento

is ChatGTP.

es ChatGTP.

It is. The claim is that it's able to answer

Es. La afirmación es que es capaz de responder

anything you ask it.

cualquier cosa que le preguntes.

This includes writing

Esto incluye escribir los

students' essays.

ensayos de los estudiantes.

Now, this is something that was discussed on the BBC

Ahora bien, esto es algo que se discutió en el

Radio 4 programme, Word of Mouth.

programa Word of Mouth de BBC Radio 4.

Emily M Bender,

Emily M Bender,

Professor of Computational Linguistics at the University

profesora de lingüística computacional en la Universidad

of Washington, explained why it's dangerous to always trust

de Washington, explicó por qué es peligroso confiar siempre en

what a chatbot is telling us.

lo que nos dice un chatbot.

We tend to react to grammatical, fluent, coherent seeming text

Tendemos a reaccionar ante un texto gramatical, fluido y aparentemente coherente

as authoritative and reliable and valuable and

como autorizado, confiable y valioso, y

we need to be on guard against that because what is coming out of ChatGTP

debemos estar en guardia contra eso porque lo que sale de ChatGTP no

is none of that.

es nada de eso.

So, Professor Bender says that well written text, that is coherent -

Entonces, el profesor Bender dice que un texto bien escrito, que es coherente,

that means it's clear, carefully considered and sensible -

es decir, que es claro, cuidadosamente considerado y sensato,

makes us think what we are reading is reliable and authoritative.

nos hace pensar que lo que estamos leyendo es confiable y autorizado.

So it's respected, accurate and important sounding.

Por lo tanto, es un sonido respetado, preciso e importante.

Yes, chatbots might appear to write in this way. But really,

Sí, puede parecer que los chatbots escriben de esta manera. Pero en realidad,

they are just predicting one word after another based on what they have learnt.

solo están prediciendo una palabra tras otra en función de lo que han aprendido.

We should therefore be on guard - be careful

Por lo tanto, debemos estar en guardia: ser cuidadosos

and alert about the accuracy of what we are being told.

y estar alerta sobre la precisión de lo que se nos dice.

One concern is that chatbots - a form of artificial intelligence - work

Una preocupación es que los chatbots, una forma de inteligencia artificial, funcionan

a bit like a human brain in the way it can learn and process information.

un poco como un cerebro humano en la forma en que pueden aprender y procesar información.

They are able to learn from experience. Something called deep learning.

Son capaces de aprender de la experiencia. Algo llamado aprendizaje profundo.

A cognitive psychologist and computer scientist called Geoffrey Hinton,

Un psicólogo cognitivo y científico informático llamado Geoffrey Hinton

recently said he feared that chatbots could soon overtake the level

dijo recientemente que temía que los chatbots pudieran superar pronto el nivel

of information that a human brain holds. That is a bit scary isn't it?

de información que contiene el cerebro humano . Eso da un poco de miedo ¿no?

But for now, chatbots can be useful for practical information,

Pero por ahora, los chatbots pueden ser útiles para obtener información práctica,

but sometimes we start to believe they are human

pero a veces empezamos a creer que son humanos

and we interact with them in a human like way.

e interactuamos con ellos de manera humana.

This can make us believe them even more.

Esto puede hacer que les creamos aún más.

Professor Emma Bender,

La profesora Emma Bender,

speaking on the BBC's Word of Mouth

hablando en el programa Word of Mouth de la BBC

programme, explains why we might feel like that.

, explica por qué podemos sentirnos así.

I think what's going on there is, the kinds of answers

Creo que lo que está pasando ahí es que los tipos de respuestas que

you get depend on the questions

obtienes dependen de las preguntas que

you put in, because it's doing likely next word, likely next word.

hagas, porque es probablemente la siguiente palabra, probablemente la siguiente palabra.

And so, if as the human interacting with this machine

Entonces, si como humano interactuando con esta máquina

and you start asking questions about how do you feel, you know, chatbot?

y comienzas a hacer preguntas sobre cómo te sientes, ¿sabes, chatbot?

And, what do you think of this?

Y, ¿qué piensas de esto? ¿

What are your goals?

Cuáles son tus metas?

You can provoke it to say things that sound like what a sentient

Puedes provocarlo para que diga cosas que suenen como lo que

entity would say. We are really primed to imagine a mind behind language

diría una entidad sensible. Estamos realmente preparados para imaginar una mente detrás del lenguaje

whenever we encounter language.

cada vez que nos encontramos con un lenguaje.

And so we really have to account for that when

Entonces, realmente tenemos que dar cuenta de eso cuando

we're making decisions about these.

tomamos decisiones sobre esto.

So, although a chatbot might sound human,

Entonces, aunque un chatbot puede parecer humano, en realidad

we really just ask it

solo le preguntamos

things to get a reaction. We provoke it.

cosas para obtener una reacción. Lo provocamos.

And it answers only with words

Y responde solo con palabras

it has learned to use before.

que ha aprendido a usar antes.

Not because it has come up with a clever answer,

No porque se le haya ocurrido una respuesta inteligente,

but it does sound like a sentient entity. Sentient describes a living  

pero suena como una entidad sensible. Sintiente describe un

thing that experiences feelings. As Professor Bender says we imagine  

ser vivo que experimenta sentimientos. Como dice el profesor Bender, imaginamos

that when something speaks there is a mind behind it. But sorry Neil,

que cuando algo habla hay una mente detrás. Pero lo siento Neil,

they are not your friend.

no son tus amigos.

They're just machines.

Son solo máquinas.

Yes, it's strange then

Sí, entonces es extraño

that we sometimes give chatbots names. Alexa, Siri, and earlier

que a veces le demos nombres a los chatbots. Alexa, Siri y antes

I asked you what the name was for their first ever chatbot?

te pregunté cuál era el nombre de su primer chatbot.

And I guessed it was Parry. Was I right?

Y supuse que era Parry. ¿Tenía razón?

You guessed wrong, I'm afraid.

Adivinaste mal, me temo.

Parry was an early form of chatbot from 1972.

Parry fue una de las primeras formas de chatbot de 1972.

But the correct answer was Eliza.

Pero la respuesta correcta fue Eliza.

It was considered to be the first chatterbot, as it was called then,

Fue considerado el primer chatterbot, como se llamaba entonces,

and was developed by Joseph Weizenbaum at Massachusetts Institute of Technology.

y fue desarrollado por Joseph Weizenbaum en el Instituto Tecnológico de Massachusetts.

Fascinating stuff.

Cosas fascinantes.

OK, now let's recap some of the vocabulary

Bien, ahora recapitulemos parte del vocabulario que

we highlighted in this programme, starting with sophisticated,

destacamos en este programa, comenzando con sofisticado,

which can describe technology that is advanced and complex.

que puede describir tecnología avanzada y compleja.

Something that is coherent, is clear carefully considered and sensible.

Algo que es coherente, es claro cuidadosamente considerado y sensato.

Authoritative means respected accurate and important sounding.

Autoritario significa sondeo preciso e importante respetado.

When you are on guard

Cuando estás en guardia

you must be careful and alert about something.

debes estar atento y alerta sobre algo.

It could be the accuracy of what you see or hear or just being aware

Podría ser la precisión de lo que ve o escucha o simplemente ser consciente

of the dangers around you. To provoke means to do something

de los peligros que lo rodean. Provocar significa hacer algo

that causes a reaction from someone.

que provoca una reacción en alguien.

Sentient describes something that experiences feelings.

Sentient describe algo que experimenta sentimientos.

So it's something that is living. Once again

Entonces es algo que está vivo. Una vez más

our six minutes are up. Goodbye.

nuestros seis minutos han terminado. Adiós.

Bye bye for now.

Adiós por ahora.