Should we fear chatbots? ⏲️ 6 Minute English

Hello. This is 6 Minute English

안녕하세요.

from BBC Learning English.

BBC Learning English의 6분 영어입니다.

I'm Neil.

And I'm Rob.

저는 닐입니다.

저는 롭입니다.

Now, I'm sure most of us have interacted with a chatbot.

이제 저는 우리 대부분이 챗봇과 상호 작용했다고 확신합니다 .

These are bits of computer technology that respond to text with text

텍스트로 텍스트에 응답하거나

or respond to your voice.

음성에 응답하는 컴퓨터 기술의 일부입니다.

You ask it a question and usually it comes up

질문을 하면 일반적으로

with an answer.

답이 나옵니다.

Yes, it's almost like talking to another human.

예, 거의 다른 사람과 대화하는 것과 같습니다.

But of course, it's not.

하지만 물론 그렇지 않습니다.

It's just a clever piece of technology.

그것은 단지 영리한 기술입니다. 점점

It's becoming more sophisticated, more advanced and complex,

더 정교해지고 복잡해지고

but could they replace real human interaction altogether?

있지만 실제 인간 상호 작용을 완전히 대체할 수 있을까요?

We'll discuss that more in a moment and find out if chatbots

잠시 후 더 자세히 논의하고 챗봇이

really think for themselves. But first,

실제로 스스로 생각하는지 알아보겠습니다. 하지만 먼저

I have a question for you, Rob. The first computer program that allowed

질문이 있습니다, Rob. 인간과 기계 사이에 어떤 종류의 그럴듯한 대화를 가능하게 한 최초의 컴퓨터 프로그램은

some kind of plausible conversation between humans and machines

was invented in 1966.

1966년에 발명되었습니다.

But what was it called?

그러나 그것은 무엇이라고 불렸습니까?

Was it a) Alexa.

a) 알렉사.

b) Eliza, or c) Parry? Well, it's not Alexa,

b) 엘리자, 또는 c) 패리? 음, Alexa가 아니라

that's too new, so I'll guess

너무 새롭기 때문에 추측하겠습니다.

c) Parry.

c) Parry.

I'll reveal the answer at the end of the programme.

답은 프로그램 마지막에 공개하겠습니다.

Now, the old chatbots of the 1960s and 70s were quite basic.

이제 1960~70년대의 오래된 챗봇은 아주 기본적이었습니다.

But more recently, the technology is able to predict the next word that is

하지만 최근에는 이 기술이

likely to be used in a sentence and it learns words and sentence structures.

문장에서 사용될 가능성이 높은 다음 단어를 예측할 수 있고 단어와 문장 구조를 학습합니다.

It's clever stuff.

영리한 물건입니다.

I've experienced using them when talking to my bank

은행에 문의하거나

or when I have problems trying to book a ticket on a website.

웹사이트에서 티켓을 예약하는 데 문제가 있을 때 사용해본 적이 있습니다.

I no longer phone a human,

나는 더 이상 사람에게 전화를 걸지 않고

I speak to a virtual assistant instead.

대신 가상 비서와 통화합니다.

Probably the most well known chatbot at the moment

아마도 현재 가장 잘 알려진 챗봇은

is ChatGTP.

ChatGTP일 것입니다.

It is. The claim is that it's able to answer

그것은. 주장은

anything you ask it.

당신이 묻는 모든 것에 대답할 수 있다는 것입니다.

This includes writing

여기에는

students' essays.

학생들의 에세이 쓰기가 포함됩니다.

Now, this is something that was discussed on the BBC

이것은 BBC

Radio 4 programme, Word of Mouth.

라디오 4 프로그램인 Word of Mouth에서 논의된 내용입니다. 워싱턴

Emily M Bender,

Professor of Computational Linguistics at the University

대학교 전산 언어학 교수인 Emily M Bender는 챗봇이 말하는 것을

of Washington, explained why it's dangerous to always trust

항상 신뢰하는 것이 위험한 이유를 설명했습니다

what a chatbot is telling us.

.

We tend to react to grammatical, fluent, coherent seeming text

우리는 문법 적이고 유창하며 일관되게 보이는 텍스트에

as authoritative and reliable and valuable and

권위 있고 신뢰할 수 있으며 가치 있는 것으로 반응하는 경향이 있으며

we need to be on guard against that because what is coming out of ChatGTP

ChatGTP에서 나오는 내용은 그렇지

is none of that.

않기 때문에 이를 경계해야 합니다.

So, Professor Bender says that well written text, that is coherent -

따라서 Bender 교수는 잘 쓰여진 텍스트, 즉 일관성이 있는 텍스트, 즉

that means it's clear, carefully considered and sensible -

명확하고 세 심하게 고려되고 합리적인 텍스트는

makes us think what we are reading is reliable and authoritative.

우리가 읽고 있는 내용이 신뢰할 수 있고 권위 있다고 생각하게 만든다고 말합니다.

So it's respected, accurate and important sounding.

따라서 존중되고 정확하며 중요한 소리입니다.

Yes, chatbots might appear to write in this way. But really,

예, 챗봇은 이런 식으로 작성하는 것처럼 보일 수 있습니다 . 그러나 실제로

they are just predicting one word after another based on what they have learnt.

그들은 배운 내용을 기반으로 한 단어를 차례로 예측하고 있습니다.

We should therefore be on guard - be careful

그러므로 우리는 경계해야 합니다. 우리가 듣고 있는 내용의

and alert about the accuracy of what we are being told.

정확성에 대해 주의하고 경계해야 합니다 .

One concern is that chatbots - a form of artificial intelligence - work

한 가지 우려 사항은 인공 지능의 한 형태인 챗봇이 정보를 배우고 처리하는

a bit like a human brain in the way it can learn and process information.

방식에서 인간의 두뇌처럼 작동한다는 것입니다 .

They are able to learn from experience. Something called deep learning.

그들은 경험을 통해 배울 수 있습니다. 딥 러닝이라는 것이 있습니다.

A cognitive psychologist and computer scientist called Geoffrey Hinton,

인지 심리학자이자 컴퓨터 과학자인 제프리 힌튼(Geoffrey Hinton)은

recently said he feared that chatbots could soon overtake the level

최근 챗봇이 머지않아

of information that a human brain holds. That is a bit scary isn't it?

인간의 두뇌가 보유하고 있는 정보 수준을 넘어설 수 있다고 우려한다고 말했습니다. 그건 좀 무섭지 않나요?

But for now, chatbots can be useful for practical information,

하지만 현재로서는 챗봇이 실용적인 정보를 제공하는 데 유용할 수 있지만

but sometimes we start to believe they are human

때때로 우리는 챗봇이 인간이라고 믿기 시작

and we interact with them in a human like way.

하고 인간과 같은 방식으로 상호 작용합니다.

This can make us believe them even more.

이것은 우리가 그들을 더욱 믿게 만들 수 있습니다 .

Professor Emma Bender,

speaking on the BBC's Word of Mouth

BBC의 입소문

programme, explains why we might feel like that.

프로그램에서 연설하는 Emma Bender 교수는 우리가 왜 그렇게 느끼는지 설명합니다.

I think what's going on there is, the kinds of answers

제 생각에는 거기에서 무슨 일이 일어나고 있는지,

you get depend on the questions

여러분이 얻는 대답의 종류는 여러분이 입력한 질문에 따라 달라집니다

you put in, because it's doing likely next word, likely next word.

.

And so, if as the human interacting with this machine

그래서 인간이 이 기계와 상호 작용

and you start asking questions about how do you feel, you know, chatbot?

하고 당신이 어떻게 느끼는지에 대해 질문하기 시작한다면, 챗봇?

And, what do you think of this?

그리고, 이것에 대해 어떻게 생각하세요?

What are your goals?

당신의 목표는 무엇입니까?

You can provoke it to say things that sound like what a sentient

지각 있는

entity would say. We are really primed to imagine a mind behind language

존재가 말하는 것과 같은 소리를 하도록 유도할 수 있습니다. 우리는

whenever we encounter language.

언어를 접할 때마다 언어 뒤에 숨은 마음을 상상하게 됩니다.

And so we really have to account for that when

따라서 우리는 이에 대한 결정을 내릴 때 실제로 그것을 설명해야 합니다

we're making decisions about these.

.

So, although a chatbot might sound human,

따라서 챗봇이 사람처럼 들릴 수 있지만

we really just ask it

실제로는

things to get a reaction. We provoke it.

반응을 얻기 위해 무언가를 요청합니다. 우리는 그것을 자극합니다.

And it answers only with words

그리고 이전에 사용하도록 배운 단어로만 대답합니다

it has learned to use before.

. 영리한 대답을

Not because it has come up with a clever answer,

내놓았기 때문이 아니라

but it does sound like a sentient entity. Sentient describes a living  

지각 있는 존재처럼 들립니다 . Sentient는

thing that experiences feelings. As Professor Bender says we imagine  

감정을 경험하는 살아있는 것을 말합니다. Bender 교수가 말했듯이 우리는

that when something speaks there is a mind behind it. But sorry Neil,

무언가가 말할 때 그 뒤에 마음이 있다고 상상합니다 . 하지만 죄송합니다 닐,

they are not your friend.

그들은 당신의 친구가 아닙니다.

They're just machines.

그들은 단지 기계일 뿐입니다.

Yes, it's strange then

예, 그렇다면

that we sometimes give chatbots names. Alexa, Siri, and earlier

우리가 때때로 챗봇에 이름을 부여하는 것이 이상합니다. Alexa, Siri, 그리고 이전에 그들의 첫 번째 챗봇

I asked you what the name was for their first ever chatbot?

이름이 무엇인지 물었습니다.

And I guessed it was Parry. Was I right?

그리고 나는 그것이 Parry라고 생각했습니다. 내가 맞았어?

You guessed wrong, I'm afraid.

잘못 생각하셨군요.

Parry was an early form of chatbot from 1972.

Parry는 1972년부터 시작된 챗봇의 초기 형태였습니다.

But the correct answer was Eliza.

하지만 정답은 Eliza였습니다. 매사추세츠 공과대학의 Joseph Weizenbaum이 개발한

It was considered to be the first chatterbot, as it was called then,

최초의 채터봇으로 여겨졌습니다

and was developed by Joseph Weizenbaum at Massachusetts Institute of Technology.

.

Fascinating stuff.

매혹적인 물건.

OK, now let's recap some of the vocabulary

자, 이제

we highlighted in this programme, starting with sophisticated,

우리가 이 프로그램에서 강조한 어휘 중 일부를 요약해 보겠습니다. 고급 기술과 복잡한 기술을 설명할 수 있는 정교한 단어부터 시작하겠습니다

which can describe technology that is advanced and complex.

.

Something that is coherent, is clear carefully considered and sensible.

일관성 있고 신중하게 고려되고 합리적인 것이 명확합니다.

Authoritative means respected accurate and important sounding.

권위 있는 것은 존경받는 정확하고 중요한 소리를 의미합니다.

When you are on guard

당신이 경계할 때

you must be careful and alert about something.

당신은 조심 하고 무언가에 대해 경계해야 합니다. 보고 듣는

It could be the accuracy of what you see or hear or just being aware

것의 정확성일 수도 있고

of the dangers around you. To provoke means to do something

주변의 위험을 인식하는 것일 수도 있습니다. 도발한다는 것은

that causes a reaction from someone.

누군가로부터 반응을 일으키는 일을 하는 것을 의미합니다.

Sentient describes something that experiences feelings.

Sentient는 감정을 경험하는 것을 설명합니다.

So it's something that is living. Once again

그래서 그것은 살아있는 것입니다. 다시 한 번

our six minutes are up. Goodbye.

6분이 끝났습니다. 안녕히 가세요.

Bye bye for now.

지금은 안녕.