Can AI have a mind of its own? ⏲️ 6 Minute English

Hello. This is 6 Minute English from

안녕하세요. BBC Learning English의 6분 영어입니다

BBC Learning English. I’m Sam.

. 저는 샘입니다.

And I’m Neil.

그리고 저는 닐입니다.

In the autumn of 2021, something

2021년 가을,

strange happened at the Google

headquarters in California’s Silicon

캘리포니아 실리콘밸리의 구글 본사에서 이상한 일이 벌어졌다

Valley. A software engineer called,

.

Blake Lemoine, was working on the

Blake Lemoine이라는 소프트웨어 엔지니어는

artificial intelligence project, ‘Language

인공 지능 프로젝트인 'Language

Models for Dialogue Applications’, or

Models for Dialogue Applications'(

LaMDA for short. LaMDA is a

줄여서 LaMDA)를 진행하고 있었습니다. LaMDA는

chatbot – a computer programme

designed to have conversations with

humans over the internet.

인터넷을 통해 사람과 대화하도록 설계된 컴퓨터 프로그램인 챗봇입니다.

After months talking with LaMDA

on topics ranging from movies to

영화에서 삶의 의미에 이르기까지 다양한 주제에 대해 LaMDA와 몇 달간 대화를 나눈

the meaning of life, Blake came to

후 Blake

a surprising conclusion: the chatbot

는 놀라운 결론에 도달했습니다. 챗봇

was an intelligent person with wishes

은

and rights that should be respected.

존중받아야 할 소망과 권리를 가진 지적인 사람이라는 것입니다.

For Blake, LaMDA was a Google

Blake에게 LaMDA는

employee, not a machine.

기계가 아니라 Google 직원이었습니다.

He also called it his ‘friend’.

그는 또한 그것을 '친구'라고 불렀습니다.

Google quickly reassigned Blake from

Google

the project, announcing that his ideas

은 그의 아이디어

were not supported by the evidence.

가 증거에 의해 뒷받침되지 않는다고 발표하면서 프로젝트에서 Blake를 재빨리 재배치했습니다.

But what exactly was going on?

그러나 정확히 무슨 일이 있었습니까?

In this programme, we’ll be

이 프로그램에서는

discussing whether artificial intelligence

인공 지능

is capable of consciousness. We’ll hear

이 의식을 가질 수 있는지 여부에 대해 논의할 것입니다. 우리는

from one expert who thinks AI is not as

AI가 우리가 생각하는 것만큼 지능적이지 않다고 생각하는 한 전문가의 말

intelligent as we sometimes think,

and as usual, we’ll be learning some

을 듣게 될 것이며 평소와 같이

new vocabulary as well.

새로운 어휘도 배울 것입니다.

But before that, I have a question for

하지만 그 전에 질문이

you, Neil. What happened to Blake Lemoine

있습니다, 닐. Blake Lemoine에게 일어난 일은 스칼렛 요한슨의 목소리로 컴퓨터와 대화하는 외로운 작가

is strangely similar to the 2013 Hollywood

movie, Her, starring Joaquin Phoenix as

로 Joaquin Phoenix가 출연한 2013년 할리우드 영화 Her와 이상하게 유사합니다

a lonely writer who talks with his

computer, voiced by Scarlett Johansson.

.

But what happens at the end

하지만

of the movie? Is it:

영화가 끝나면 어떻게 될까요? 그것은:

a) the computer comes to life?

a) 컴퓨터가 살아나나요?

b) the computer dreams about the writer? or,

b) 컴퓨터가 작가를 꿈꾸는가? 또는

c) the writer falls in love with the computer?

c) 작가가 컴퓨터와 사랑에 빠지나요?

... c) the writer falls in love with the computer.

... c) 작가는 컴퓨터와 사랑에 빠진다.

OK, Neil, I’ll reveal the answer at the end

네, 닐, 프로그램이 끝날 때 답을 공개하겠습니다

of the programme. Although Hollywood is

. 할리우드

full of movies about robots coming to life,

는 로봇이 살아 움직이는 영화로 가득 차 있지만 워싱턴 대학

Emily Bender, a professor of linguistics and

의 언어학 및 컴퓨팅 교수인 Emily Bender

computing at the University of Washington,

thinks AI isn’t that smart. She thinks the

는 AI가 그렇게 똑똑하지 않다고 생각합니다. 그녀는

words we use to talk about technology,

우리가 기술에 대해 이야기할 때 사용하는

phrases like ‘machine learning’, give a

'기계 학습'과 같은 문구가

false impression about what

computers can and can’t do.

컴퓨터가 할 수 있는 것과 할 수 없는 것에 대해 잘못된 인상을 준다고 생각합니다.

Here is Professor Bender discussing

다음은 Bender 교수가 BBC World Service 프로그램인 The Inquiry에서

another misleading phrase, ‘speech

오해의 소지가 있는 또 다른 문구인 '음성

recognition’, with BBC World Service

인식'

programme, The Inquiry:

If you talk about ‘automatic speech

에 대해 논의하는 내용입니다

recognition’, the term ‘recognition’

suggests that there's something

cognitive going on, where I think a

.

better term would be automatic transcription.

더 나은 용어는 자동 전사입니다.

That just describes the input-output

그것은 입력-출력 관계를 설명할 뿐

relation, and not any theory or wishful

thinking about what the computer is

, 컴퓨터가

doing to be able to achieve that.

이를 달성하기 위해 수행하는 작업에 대한 이론이나 희망사항이 아닙니다. 컴퓨터

Using words like ‘recognition’ in relation

와 관련하여 '인식'과 같은 단어를 사용하면 인식

to computers gives the idea that

something cognitive is happening – something

related to the mental processes of

thinking, knowing, learning and understanding.

, 인지, 학습 및 이해의 정신적 과정과 관련된 어떤 인지적 일이 일어나고 있다는 생각을 제공합니다.

But thinking and knowing are human,

그러나 사고와 앎은

not machine, activities. Professor Benders

기계 활동이 아니라 인간의 활동입니다. Benders 교수

says that talking about them in connection

는 컴퓨터와 관련하여 그것들에 대해 이야기하는

with computers is wishful thinking -

것은 희망적인 생각,

something which is unlikely to happen.

일어날 것 같지 않은 일이라고 말합니다.

The problem with using words in this

이러한 방식으로 단어를 사용

way is that it reinforces what

하는 것의 문제는

Professor Bender calls, technical

Bender 교수가 부르는 기술적

bias – the assumption that the computer

편견, 즉 컴퓨터가 항상 옳다는 가정을 강화한다는 것입니다

is always right. When we encounter

.

language that sounds natural, but is

자연스럽게 들리지만

coming from a computer, humans

컴퓨터에서 나오는 언어를 접할 때 인간

can’t help but imagine a mind behind

은 언어 뒤에 마음

the language, even when there isn’t one.

이 없더라도 상상할 수밖에 없습니다.

In other words, we anthropomorphise

다시 말해, 우리는 컴퓨터를 의인화

computers – we treat them as if they

하여 마치 인간인 것처럼 취급합니다

were human. Here’s Professor Bender

. 여기 Bender 교수

again, discussing this idea with

Charmaine Cozier, presenter of BBC

가 BBC World Service의 The Inquiry 발표자인 Charmaine Cozier와 이 아이디어에 대해 논의

World Service’s, the Inquiry.

하고 있습니다.

So ‘ism’ means system, ‘anthro’ or ‘anthropo’

그래서 'ism'은 체계를 의미하고 'anthro' 또는 'anthropo'

means human, and ‘morph’ means shape...

는 인간을 의미하고 'morph'는 형태

And so this is a system that puts the

shape of a human on something, and

in this case the something is a computer.

를 의미합니다. 컴퓨터.

We anthropomorphise animals all the time,

우리는 항상 동물을

but we also anthropomorphise action figures,

의인화하지만 의도

or dolls, or companies when we talk about

가 있는 회사 등에 대해 이야기할 때 액션 피규어, 인형 또는 회사를 의인화

companies having intentions and so on.

하기도 합니다.

We very much are in the habit of seeing

우리는

ourselves in the world around us.

주변 세계에서 자신을 보는 습관이 있습니다.

And while we’re busy seeing ourselves

그리고 우리는

by assigning human traits to things that

인간의 특성을 아닌 것에 부여함으로써

are not, we risk being blindsided.

우리 자신을 보느라 바쁘지만 눈이 멀게 될 위험이 있습니다.

The more fluent that text is, the more

텍스트가 더 유창할수록

different topics it can converse on, the

대화할 수 있는 다양한 주제가

more chances there are to get taken in.

더 많아질 가능성이 높아집니다

If we treat computers as if they could think,

. 컴퓨터를 마치 생각할 수 있는 것처럼 취급

we might get blindsided, or

하면 눈이 멀거나

unpleasantly surprised. Artificial intelligence

불쾌하게 놀랄 수 있습니다. 인공 지능

works by finding patterns in massive

은 방대한 양의 데이터에서 패턴을 찾아 작동

amounts of data, so it can seem like

하므로

we’re talking with a human, instead

of a machine doing data analysis.

데이터 분석을 수행하는 기계가 아니라 사람과 대화하는 것처럼 보일 수 있습니다.

As a result, we get taken in – we’re tricked

결과적으로 우리는 속아

or deceived into thinking we’re dealing

넘어갑니다. 속거나 속아 우리가 인간이나 지적인 것을 상대하고 있다고 생각하게

with a human, or with something intelligent.

됩니다.

Powerful AI can make machines appear conscious,

강력한 AI는 기계가 의식이 있는 것처럼 보이게 만들 수

but even tech giants like Google are years

있지만 Google과 같은 거대 기술 기업도

away from building computers that can

dream or fall in love. Speaking of which,

꿈을 꾸거나 사랑에 빠질 수 있는 컴퓨터를 만드는 데 몇 년이 걸립니다. 말하자면,

Sam, what was the answer to your question?

Sam, 당신의 질문에 대한 대답은 무엇이었습니까?

I asked what happened in the 2013 movie, Her.

2013년 영화 '그녀'에서 무슨 일이 있었는지 물었다.

Neil thought that the main character

Neil은 주인공

falls in love with his computer, which

이 자신의 컴퓨터와 사랑에 빠진다고 생각했고

was the correct answer!

그것이 정답이었습니다!

OK. Right, it’s time to recap the vocabulary

좋아요. 이제 인터넷을 통해 인간과 상호 작용하도록 설계된 컴퓨터 프로그램인 챗봇을 포함하여

we’ve learned from this programme about AI,

AI에 대해 이 프로그램에서 배운 어휘를 요약할 시간

including chatbots - computer programmes

designed to interact with

humans over the internet.

입니다.

The adjective cognitive describes

인지라는 형용사

anything connected with the mental

processes of knowing,

는 알고,

learning and understanding.

배우고, 이해하는 정신적 과정과 관련된 모든 것을 설명합니다.

Wishful thinking means thinking that

소망적 사고란

something which is very unlikely to happen

일어날 가능성이 거의 없는 일

might happen one day in the future.

이 미래에 언젠가는 일어날 수 있다고 생각하는 것을 의미합니다.

To anthropomorphise an object means

물체를 의인화한다는 것은

to treat it as if it were human,

그것이 인간이 아닌데도 마치 인간인 것처럼 취급하는 것을 의미합니다

even though it’s not.

.

When you’re blindsided, you’re

눈이 멀면

surprised in a negative way.

부정적인 방식으로 놀란다.

And finally, to get taken in by someone means

그리고 마지막으로 누군가

to be deceived or tricked by them.

에게 속았다는 것은 그들에게 속거나 속았다는 뜻입니다.

My computer tells me that our six minutes

내 컴퓨터는 6분이 끝났다고 알려줍니다

are up! Join us again soon, for now

! 곧 다시 합류하세요.

it’s goodbye from us.

이제 작별입니다.

Bye!

안녕!