Should we fear chatbots? ⏲️ 6 Minute English

Hello. This is 6 Minute English

Olá. Este é o 6 Minute English

from BBC Learning English.

da BBC Learning English.

I'm Neil.

And I'm Rob.

Eu sou Neil.

E eu sou Rob.

Now, I'm sure most of us have interacted with a chatbot.

Agora, tenho certeza que a maioria de nós já interagiu com um chatbot.

These are bits of computer technology that respond to text with text

Estes são bits de tecnologia de computador que respondem ao texto com texto

or respond to your voice.

ou respondem à sua voz.

You ask it a question and usually it comes up

Você faz uma pergunta e geralmente vem

with an answer.

com uma resposta.

Yes, it's almost like talking to another human.

Sim, é quase como falar com outro humano.

But of course, it's not.

Mas claro, não é.

It's just a clever piece of technology.

É apenas uma peça inteligente de tecnologia.

It's becoming more sophisticated, more advanced and complex,

Está se tornando mais sofisticado, mais avançado e complexo,

but could they replace real human interaction altogether?

mas eles poderiam substituir completamente a interação humana real?

We'll discuss that more in a moment and find out if chatbots

Discutiremos isso mais adiante e descobriremos se os chatbots

really think for themselves. But first,

realmente pensam por si mesmos. Mas primeiro,

I have a question for you, Rob. The first computer program that allowed

tenho uma pergunta para você, Rob. O primeiro programa de computador que permitia

some kind of plausible conversation between humans and machines

algum tipo de conversa plausível entre humanos e máquinas

was invented in 1966.

foi inventado em 1966.

But what was it called?

Mas como se chamava?

Was it a) Alexa.

Foi a) Alexa.

b) Eliza, or c) Parry? Well, it's not Alexa,

b) Eliza, ou c) Parry? Bem, não é Alexa,

that's too new, so I'll guess

isso é muito novo, então vou adivinhar

c) Parry.

c) Parry.

I'll reveal the answer at the end of the programme.

Vou revelar a resposta no final do programa.

Now, the old chatbots of the 1960s and 70s were quite basic.

Agora, os antigos chatbots dos anos 1960 e 70 eram bastante básicos.

But more recently, the technology is able to predict the next word that is

Mas, mais recentemente, a tecnologia é capaz de prever a próxima palavra que

likely to be used in a sentence and it learns words and sentence structures.

provavelmente será usada em uma frase e aprende palavras e estruturas de frases.

It's clever stuff.

É uma coisa inteligente. Já

I've experienced using them when talking to my bank

experimentei usá-los ao falar com meu banco

or when I have problems trying to book a ticket on a website.

ou quando tenho problemas ao tentar reservar uma passagem em um site.

I no longer phone a human,

Não telefono mais para um humano,

I speak to a virtual assistant instead.

falo com um assistente virtual.

Probably the most well known chatbot at the moment

Provavelmente o chatbot mais conhecido no momento

is ChatGTP.

é o ChatGTP.

It is. The claim is that it's able to answer

Isso é. A alegação é que ele é capaz de responder a

anything you ask it.

qualquer coisa que você perguntar.

This includes writing

Isso inclui redigir as

students' essays.

redações dos alunos.

Now, this is something that was discussed on the BBC

Agora, isso é algo que foi discutido no

Radio 4 programme, Word of Mouth.

programa da BBC Radio 4, Word of Mouth.

Emily M Bender,

Emily M Bender,

Professor of Computational Linguistics at the University

professora de Linguística Computacional da Universidade

of Washington, explained why it's dangerous to always trust

de Washington, explicou por que é perigoso sempre confiar no

what a chatbot is telling us.

que um chatbot está nos dizendo.

We tend to react to grammatical, fluent, coherent seeming text

Tendemos a reagir a um texto aparentemente gramatical, fluente e coerente

as authoritative and reliable and valuable and

como autoritário, confiável e valioso e

we need to be on guard against that because what is coming out of ChatGTP

precisamos estar atentos contra isso, porque o que está saindo do ChatGTP não

is none of that.

é nada disso.

So, Professor Bender says that well written text, that is coherent -

Então, o professor Bender diz que um texto bem escrito, que é coerente -

that means it's clear, carefully considered and sensible -

isso significa que é claro, cuidadosamente considerado e sensato -

makes us think what we are reading is reliable and authoritative.

nos faz pensar que o que estamos lendo é confiável e confiável.

So it's respected, accurate and important sounding.

Portanto, é um som respeitado, preciso e importante.

Yes, chatbots might appear to write in this way. But really,

Sim, os chatbots podem parecer escrever dessa maneira. Mas, na verdade,

they are just predicting one word after another based on what they have learnt.

eles estão apenas prevendo uma palavra após a outra com base no que aprenderam.

We should therefore be on guard - be careful

Devemos, portanto, estar atentos - ser cuidadosos

and alert about the accuracy of what we are being told.

e alertas sobre a exatidão do que nos é dito.

One concern is that chatbots - a form of artificial intelligence - work

Uma preocupação é que os chatbots – uma forma de inteligência artificial – funcionam

a bit like a human brain in the way it can learn and process information.

um pouco como o cérebro humano na maneira como podem aprender e processar informações.

They are able to learn from experience. Something called deep learning.

Eles são capazes de aprender com a experiência. Algo chamado aprendizado profundo.

A cognitive psychologist and computer scientist called Geoffrey Hinton,

Um psicólogo cognitivo e cientista da computação chamado Geoffrey Hinton

recently said he feared that chatbots could soon overtake the level

disse recentemente que temia que os chatbots pudessem em breve ultrapassar o nível

of information that a human brain holds. That is a bit scary isn't it?

de informação que o cérebro humano contém. Isso é um pouco assustador, não é?

But for now, chatbots can be useful for practical information,

Mas, por enquanto, os chatbots podem ser úteis para informações práticas,

but sometimes we start to believe they are human

mas às vezes começamos a acreditar que eles são humanos

and we interact with them in a human like way.

e interagimos com eles de maneira humana.

This can make us believe them even more.

Isso pode nos fazer acreditar ainda mais neles. A

Professor Emma Bender,

professora Emma Bender,

speaking on the BBC's Word of Mouth

falando no programa Word of Mouth da BBC

programme, explains why we might feel like that.

, explica por que podemos nos sentir assim.

I think what's going on there is, the kinds of answers

Eu acho que o que está acontecendo é que os tipos de respostas que

you get depend on the questions

você obtém dependem das perguntas que

you put in, because it's doing likely next word, likely next word.

você faz, porque provavelmente a próxima palavra, provavelmente a próxima palavra.

And so, if as the human interacting with this machine

E então, se como o humano interage com esta máquina

and you start asking questions about how do you feel, you know, chatbot?

e você começa a fazer perguntas sobre como você se sente, sabe, chatbot?

And, what do you think of this?

E, o que você acha disso?

What are your goals?

Quais são seus objetivos?

You can provoke it to say things that sound like what a sentient

Você pode provocá-lo para dizer coisas que soam como o que uma

entity would say. We are really primed to imagine a mind behind language

entidade senciente diria. Estamos realmente preparados para imaginar uma mente por trás da linguagem

whenever we encounter language.

sempre que a encontramos.

And so we really have to account for that when

E então realmente temos que levar isso em consideração quando

we're making decisions about these.

tomamos decisões sobre isso.

So, although a chatbot might sound human,

Portanto, embora um chatbot possa parecer humano, na verdade,

we really just ask it

apenas perguntamos

things to get a reaction. We provoke it.

coisas para obter uma reação. Nós o provocamos.

And it answers only with words

E responde apenas com palavras que

it has learned to use before.

aprendeu a usar antes.

Not because it has come up with a clever answer,

Não porque surgiu com uma resposta inteligente,

but it does sound like a sentient entity. Sentient describes a living  

mas soa como uma entidade senciente. Sentient descreve uma

thing that experiences feelings. As Professor Bender says we imagine  

coisa viva   que experimenta sentimentos. Como diz o professor Bender, imaginamos

that when something speaks there is a mind behind it. But sorry Neil,

que quando algo fala há uma mente por trás disso. Mas desculpe Neil,

they are not your friend.

eles não são seus amigos.

They're just machines.

São apenas máquinas.

Yes, it's strange then

Sim, é estranho

that we sometimes give chatbots names. Alexa, Siri, and earlier

que às vezes damos nomes a chatbots. Alexa, Siri e antes

I asked you what the name was for their first ever chatbot?

eu perguntei qual era o nome do primeiro chatbot deles?

And I guessed it was Parry. Was I right?

E imaginei que fosse Parry. Eu estava certo?

You guessed wrong, I'm afraid.

Você adivinhou errado, receio.

Parry was an early form of chatbot from 1972.

Parry foi uma forma inicial de chatbot de 1972.

But the correct answer was Eliza.

Mas a resposta correta era Eliza.

It was considered to be the first chatterbot, as it was called then,

Foi considerado o primeiro chatterbot, como era chamado então,

and was developed by Joseph Weizenbaum at Massachusetts Institute of Technology.

e foi desenvolvido por Joseph Weizenbaum no Instituto de Tecnologia de Massachusetts.

Fascinating stuff.

Coisas fascinantes.

OK, now let's recap some of the vocabulary

OK, agora vamos recapitular um pouco do vocabulário que

we highlighted in this programme, starting with sophisticated,

destacamos neste programa, começando com sofisticado,

which can describe technology that is advanced and complex.

que pode descrever uma tecnologia avançada e complexa.

Something that is coherent, is clear carefully considered and sensible.

Algo que seja coerente, claro, ponderado e sensato.

Authoritative means respected accurate and important sounding.

Autoritário significa respeitado som preciso e importante.

When you are on guard

Quando você está em guarda,

you must be careful and alert about something.

deve ser cuidadoso e alerta sobre alguma coisa.

It could be the accuracy of what you see or hear or just being aware

Pode ser a precisão do que você vê ou ouve ou apenas estar ciente

of the dangers around you. To provoke means to do something

dos perigos ao seu redor. Provocar significa fazer algo

that causes a reaction from someone.

que provoque uma reação em alguém.

Sentient describes something that experiences feelings.

Sentient descreve algo que experimenta sentimentos.

So it's something that is living. Once again

Então é algo que está vivo. Mais uma vez,

our six minutes are up. Goodbye.

nossos seis minutos terminaram. Adeus.

Bye bye for now.

Adeus por agora.