Can AI have a mind of its own? ⏲️ 6 Minute English

Hello. This is 6 Minute English from

Olá. Este é o 6 Minute English da

BBC Learning English. I’m Sam.

BBC Learning English. Eu sou Sam.

And I’m Neil.

E eu sou Neil.

In the autumn of 2021, something

No outono de 2021, algo

strange happened at the Google

estranho aconteceu na sede do Google

headquarters in California’s Silicon

no Vale do Silício, na Califórnia

Valley. A software engineer called,

. Um engenheiro de software chamado

Blake Lemoine, was working on the

Blake Lemoine estava trabalhando no

artificial intelligence project, ‘Language

projeto de inteligência artificial, ‘Language

Models for Dialogue Applications’, or

Models for Dialogue Applications’, ou

LaMDA for short. LaMDA is a

LaMDA para abreviar. LaMDA é um

chatbot – a computer programme

chatbot – um programa de computador

designed to have conversations with

projetado para conversar com

humans over the internet.

humanos pela internet.

After months talking with LaMDA

Depois de meses conversando com o LaMDA

on topics ranging from movies to

sobre temas que vão desde filmes até

the meaning of life, Blake came to

o sentido da vida, Blake chegou a

a surprising conclusion: the chatbot

uma conclusão surpreendente: o chatbot

was an intelligent person with wishes

era uma pessoa inteligente com desejos

and rights that should be respected.

e direitos que deveriam ser respeitados.

For Blake, LaMDA was a Google

Para Blake, o LaMDA era um

employee, not a machine.

funcionário do Google, não uma máquina.

He also called it his ‘friend’.

Ele também o chamou de "amigo".

Google quickly reassigned Blake from

O Google rapidamente transferiu Blake

the project, announcing that his ideas

do projeto, anunciando que suas ideias

were not supported by the evidence.

não eram apoiadas por evidências.

But what exactly was going on?

Mas o que exatamente estava acontecendo?

In this programme, we’ll be

Neste programa,

discussing whether artificial intelligence

discutiremos se a inteligência artificial

is capable of consciousness. We’ll hear

é capaz de consciência.

from one expert who thinks AI is not as

Ouviremos um especialista que acha que a IA não é tão

intelligent as we sometimes think,

inteligente quanto às vezes pensamos

and as usual, we’ll be learning some

e, como sempre, também aprenderemos um

new vocabulary as well.

novo vocabulário.

But before that, I have a question for

Mas antes disso, tenho uma pergunta para

you, Neil. What happened to Blake Lemoine

você, Neil. O que aconteceu com Blake Lemoine

is strangely similar to the 2013 Hollywood

é estranhamente semelhante ao filme de Hollywood de 2013

movie, Her, starring Joaquin Phoenix as

, Ela, estrelado por Joaquin Phoenix como

a lonely writer who talks with his

um escritor solitário que fala com seu

computer, voiced by Scarlett Johansson.

computador, dublado por Scarlett Johansson.

But what happens at the end

Mas o que acontece no final

of the movie? Is it:

do filme? É:

a) the computer comes to life?

a) o computador ganha vida?

b) the computer dreams about the writer? or,

b) o computador sonha com o escritor? ou,

c) the writer falls in love with the computer?

c) o escritor se apaixona pelo computador?

... c) the writer falls in love with the computer.

... c) o escritor se apaixona pelo computador.

OK, Neil, I’ll reveal the answer at the end

OK, Neil, revelarei a resposta no final

of the programme. Although Hollywood is

do programa. Embora Hollywood esteja

full of movies about robots coming to life,

cheia de filmes sobre robôs ganhando vida,

Emily Bender, a professor of linguistics and

Emily Bender, professora de linguística e

computing at the University of Washington,

computação da Universidade de Washington,

thinks AI isn’t that smart. She thinks the

acha que a IA não é tão inteligente. Ela acha que as

words we use to talk about technology,

palavras que usamos para falar sobre tecnologia,

phrases like ‘machine learning’, give a

frases como ‘aprendizado de máquina’, dão uma

false impression about what

falsa impressão sobre o que os

computers can and can’t do.

computadores podem ou não fazer.

Here is Professor Bender discussing

Aqui está o professor Bender discutindo

another misleading phrase, ‘speech

outra frase enganosa, '

recognition’, with BBC World Service

reconhecimento de fala', com o programa da BBC World

programme, The Inquiry:

Service, The Inquiry:

If you talk about ‘automatic speech

Se você fala sobre 'reconhecimento automático de fala

recognition’, the term ‘recognition’

', o termo 'reconhecimento'

suggests that there's something

sugere que há algo

cognitive going on, where I think a

cognitivo acontecendo, onde eu acho que um

better term would be automatic transcription.

termo melhor seria transcrição automática.

That just describes the input-output

Isso apenas descreve a relação entrada-saída

relation, and not any theory or wishful

, e não qualquer teoria ou pensamento positivo

thinking about what the computer is

sobre o que o computador está

doing to be able to achieve that.

fazendo para conseguir isso.

Using words like ‘recognition’ in relation

Usar palavras como ‘reconhecimento’ em relação

to computers gives the idea that

a computadores dá a ideia de que

something cognitive is happening – something

algo cognitivo está acontecendo – algo

related to the mental processes of

relacionado aos processos mentais de

thinking, knowing, learning and understanding.

pensar, conhecer, aprender e compreender.

But thinking and knowing are human,

Mas pensar e conhecer são atividades humanas

not machine, activities. Professor Benders

, não máquinas. O professor Benders

says that talking about them in connection

diz que falar sobre eles em conexão

with computers is wishful thinking -

com computadores é uma ilusão -

something which is unlikely to happen.

algo que é improvável que aconteça.

The problem with using words in this

O problema de usar palavras dessa

way is that it reinforces what

maneira é que ela reforça o que o

Professor Bender calls, technical

professor Bender chama de

bias – the assumption that the computer

viés técnico – a suposição de que o computador

is always right. When we encounter

está sempre certo. Quando encontramos uma

language that sounds natural, but is

linguagem que soa natural, mas

coming from a computer, humans

vem de um computador, os humanos

can’t help but imagine a mind behind

não podem deixar de imaginar uma mente por trás

the language, even when there isn’t one.

da linguagem, mesmo quando não existe.

In other words, we anthropomorphise

Em outras palavras, nós antropomorfizamos os

computers – we treat them as if they

computadores – nós os tratamos como se

were human. Here’s Professor Bender

fossem humanos. Aqui está o professor Bender

again, discussing this idea with

novamente, discutindo essa ideia com

Charmaine Cozier, presenter of BBC

Charmaine Cozier, apresentadora do BBC

World Service’s, the Inquiry.

World Service, the Inquiry.

So ‘ism’ means system, ‘anthro’ or ‘anthropo’

Então, 'ismo' significa sistema, 'antro' ou 'antropo'

means human, and ‘morph’ means shape...

significa humano, e 'morfo' significa forma...

And so this is a system that puts the

E então este é um sistema que coloca a

shape of a human on something, and

forma de um humano em algo, e

in this case the something is a computer.

neste caso o algo é um computador.

We anthropomorphise animals all the time,

Antropomorfizamos animais o tempo todo,

but we also anthropomorphise action figures,

mas também antropomorfizamos figuras de ação,

or dolls, or companies when we talk about

ou bonecos, ou empresas quando falamos de

companies having intentions and so on.

empresas com intenções e assim por diante.

We very much are in the habit of seeing

Temos o hábito de

ourselves in the world around us.

nos ver no mundo ao nosso redor.

And while we’re busy seeing ourselves

E enquanto estamos ocupados vendo a nós

by assigning human traits to things that

mesmos atribuindo características humanas a coisas que

are not, we risk being blindsided.

não são, corremos o risco de ser pegos de surpresa.

The more fluent that text is, the more

Quanto mais fluente for o texto, quanto mais

different topics it can converse on, the

tópicos diferentes ele puder conversar,

more chances there are to get taken in.

mais chances haverá de ser enganado.

If we treat computers as if they could think,

Se tratarmos os computadores como se eles pudessem pensar,

we might get blindsided, or

podemos ser pegos de

unpleasantly surprised. Artificial intelligence

surpresa ou desagradavelmente surpreendidos. A inteligência artificial

works by finding patterns in massive

funciona encontrando padrões em grandes

amounts of data, so it can seem like

quantidades de dados, então pode parecer

we’re talking with a human, instead

que estamos conversando com um ser humano, em vez

of a machine doing data analysis.

de uma máquina fazendo análise de dados.

As a result, we get taken in – we’re tricked

Como resultado, somos enganados – somos enganados

or deceived into thinking we’re dealing

ou iludidos ao pensar que estamos lidando

with a human, or with something intelligent.

com um ser humano ou com algo inteligente.

Powerful AI can make machines appear conscious,

A IA poderosa pode fazer as máquinas parecerem conscientes,

but even tech giants like Google are years

mas mesmo gigantes da tecnologia como o Google estão a

away from building computers that can

anos de construir computadores que podem

dream or fall in love. Speaking of which,

sonhar ou se apaixonar. Falando nisso,

Sam, what was the answer to your question?

Sam, qual foi a resposta para sua pergunta?

I asked what happened in the 2013 movie, Her.

Eu perguntei o que aconteceu no filme de 2013, Her.

Neil thought that the main character

Neil pensou que o personagem principal

falls in love with his computer, which

se apaixonou por seu computador, o que

was the correct answer!

era a resposta correta!

OK. Right, it’s time to recap the vocabulary

OK. Certo, é hora de recapitular o vocabulário

we’ve learned from this programme about AI,

que aprendemos com este programa sobre IA,

including chatbots - computer programmes

incluindo chatbots - programas de computador

designed to interact with

projetados para interagir com

humans over the internet.

humanos pela internet.

The adjective cognitive describes

O adjetivo cognitivo descreve

anything connected with the mental

qualquer coisa relacionada com os

processes of knowing,

processos mentais de conhecimento,

learning and understanding.

aprendizagem e compreensão.

Wishful thinking means thinking that

Wishful thinking significa pensar que

something which is very unlikely to happen

algo que é muito improvável que aconteça

might happen one day in the future.

pode acontecer um dia no futuro.

To anthropomorphise an object means

Antropomorfizar um objeto

to treat it as if it were human,

significa tratá-lo como se fosse humano,

even though it’s not.

ainda que não o seja.

When you’re blindsided, you’re

Quando você é pego de surpresa, você é

surprised in a negative way.

surpreendido de uma forma negativa.

And finally, to get taken in by someone means

E, finalmente, ser enganado por alguém

to be deceived or tricked by them.

significa ser enganado ou enganado por eles.

My computer tells me that our six minutes

Meu computador me diz que nossos seis

are up! Join us again soon, for now

minutos acabaram! Junte-se a nós novamente em breve, por

it’s goodbye from us.

enquanto é um adeus nosso.

Bye!

Tchau!