Should we fear chatbots? ⏲️ 6 Minute English

Hello. This is 6 Minute English

こんにちは。

from BBC Learning English.

BBC Learning English の 6 Minute English です。

I'm Neil.

And I'm Rob.

私はニールです。

そして私はロブです。

Now, I'm sure most of us have interacted with a chatbot.

さて、私たちのほとんどはチャットボットと対話したことがあると思います 。

These are bits of computer technology that respond to text with text

これらは、 テキストにテキストで応答したり

or respond to your voice.

、音声に応答したりするコンピューター技術の一部です。

You ask it a question and usually it comes up

質問すると、 たいてい答えが返ってきます

with an answer.

。

Yes, it's almost like talking to another human.

はい、まるで別の人間と話しているような感じです 。

But of course, it's not.

しかし、もちろんそうではありません。

It's just a clever piece of technology.

それは単なる賢い テクノロジーです。

It's becoming more sophisticated, more advanced and complex,

それはますます洗練され、より高度で複雑になってきていますが 、

but could they replace real human interaction altogether?

実際の人間のやりとりを完全に置き換えることはできるのでしょうか?

We'll discuss that more in a moment and find out if chatbots

これについては 後ほど詳しく説明し、チャットボットが本当に自分で考えるかどうかを確認します

really think for themselves. But first,

。 その前に、

I have a question for you, Rob. The first computer program that allowed

ロブ、あなたに質問があります。 人間と機械の間で何らかのもっともらしい会話を 可能にする最初のコンピューター プログラムは

some kind of plausible conversation between humans and machines

was invented in 1966.

1966 年に発明されました。

But what was it called?

しかし、それは何と呼ばれていましたか?

Was it a) Alexa.

それは) アレクサでしたか。

b) Eliza, or c) Parry? Well, it's not Alexa,

b) イライザ、または c) パリー? そうですね、Alexa ではありません。

that's too new, so I'll guess

新しすぎるので、

c) Parry.

c) パリーだと思います。

I'll reveal the answer at the end of the programme.

答えは 番組の最後に発表します。

Now, the old chatbots of the 1960s and 70s were quite basic.

さて、1960 年代と 70 年代の古いチャットボットは 非常に基本的なものでした。

But more recently, the technology is able to predict the next word that is

しかし、より最近では、このテクノロジーは

likely to be used in a sentence and it learns words and sentence structures.

文の中で次に使用される可能性のある単語を予測し、 単語と文の構造を学習することができるようになりました。

It's clever stuff.

それは賢いことです。

I've experienced using them when talking to my bank

私は、 銀行に問い合わせるとき

or when I have problems trying to book a ticket on a website.

や、 ウェブサイトでチケットを予約する際に問題が発生したときに、これらを使用した経験があります。

I no longer phone a human,

私はもう人間に電話するのではなく、

I speak to a virtual assistant instead.

代わりに仮想アシスタントと話します。

Probably the most well known chatbot at the moment

おそらく現時点で最もよく知られているチャットボットは

is ChatGTP.

ChatGTP です。

It is. The claim is that it's able to answer

そうです。 主張は、

anything you ask it.

あなたが尋ねれば何でも答えることができるということです。

This includes writing

これには、生徒のエッセイを書くことも含まれます

students' essays.

。

Now, this is something that was discussed on the BBC

さて、これは BBC

Radio 4 programme, Word of Mouth.

Radio 4 のプログラム「Word of Mouth」で議論されたことです。 ワシントン

Emily M Bender,

Professor of Computational Linguistics at the University

大学の計算言語学教授であるエミリー・M・ベンダー氏は、チャットボットの発言を

of Washington, explained why it's dangerous to always trust

常に信頼することが危険である理由を説明しました

what a chatbot is telling us.

。

We tend to react to grammatical, fluent, coherent seeming text

私たちは、文法的で、 流暢で、一貫性があるように見えるテキストに、

as authoritative and reliable and valuable and

権威があり、信頼でき 、価値があるものとして反応する傾向がありますが、

we need to be on guard against that because what is coming out of ChatGTP

ChatGTP から出てくるものはその

is none of that.

どれでもないので、それには警戒する必要があります。

So, Professor Bender says that well written text, that is coherent -

したがって、ベンダー教授は、 よく書かれた文章、つまり一貫性のある文章、

that means it's clear, carefully considered and sensible -

つまり明確で、 注意深く検討され、理にかなっている文章は、

makes us think what we are reading is reliable and authoritative.

私たちが読んでいる内容が信頼でき 、権威あるものであると思わせるのだと述べています。

So it's respected, accurate and important sounding.

したがって、それは尊重され、正確 で重要なサウンドです。

Yes, chatbots might appear to write in this way. But really,

はい、チャットボットはこのように記述しているように見えるかもしれません 。 しかし実際には、

they are just predicting one word after another based on what they have learnt.

彼らは学んだことに基づいて次から次へと単語を予測しているだけなのです 。

We should therefore be on guard - be careful

したがって、私たちは用心深く、言われていることの正確さについて注意を払う必要があります

and alert about the accuracy of what we are being told.

。

One concern is that chatbots - a form of artificial intelligence - work

懸念の 1 つは、人工知能の一種であるチャットボットが、

a bit like a human brain in the way it can learn and process information.

情報を学習して処理する点で人間の脳に似た働きをすることです。

They are able to learn from experience. Something called deep learning.

彼らは経験から学ぶことができます。 ディープラーニングと呼ばれるもの。

A cognitive psychologist and computer scientist called Geoffrey Hinton,

認知心理学者でコンピュータ 科学者のジェフリー・ヒントン氏は

recently said he feared that chatbots could soon overtake the level

最近、チャットボットが人間の脳が保持する情報レベルを間もなく追い越すのではないかと懸念していると述べた

of information that a human brain holds. That is a bit scary isn't it?

。 それはちょっと怖いですよね？

But for now, chatbots can be useful for practical information,

しかし今のところ、チャットボットは 実用的な情報を提供するのに役立ちます

but sometimes we start to believe they are human

が、時々 私たちはチャットボットが人間であると信じ始め

and we interact with them in a human like way.

、 人間のような方法でチャットボットと対話します。

This can make us believe them even more.

そうすることで、私たちは彼らの言葉をさらに信じることができます 。

Professor Emma Bender,

エマ・ベンダー教授は、

speaking on the BBC's Word of Mouth

BBCの口コミ

programme, explains why we might feel like that.

番組で、 なぜ私たちがそのように感じるのかについて説明しています。

I think what's going on there is, the kinds of answers

そこで何が起こっているのかというと、得られる 答えの種類は、入力した

you get depend on the questions

質問によって異なります

you put in, because it's doing likely next word, likely next word.

。なぜなら、 次の可能性の高い単語、おそらく次の単語を実行しているからです。

And so, if as the human interacting with this machine

それで、このマシンと対話する人間として、

and you start asking questions about how do you feel, you know, chatbot?

チャットボット、あなたはどう感じますか? と質問し始めたら、どう思いますか?

And, what do you think of this?

そして、これについてどう思いますか？

What are your goals?

あなたの目標は何ですか?

You can provoke it to say things that sound like what a sentient

あなたはそれを刺激して、感覚を持つ存在が言いそうなことを言うようにすることができます

entity would say. We are really primed to imagine a mind behind language

。 私たちは 言語に出会うたびに、言語の背後にある心を想像するようになっています

whenever we encounter language.

。

And so we really have to account for that when

したがって、これらについて決定を下す際には、そのことを実際に考慮する必要があります

we're making decisions about these.

。

So, although a chatbot might sound human,

したがって、チャットボットは人間のように聞こえるかもしれませんが、

we really just ask it

実際には

things to get a reaction. We provoke it.

反応を得るためにチャットボットに質問しているだけです。 私たちはそれを誘発します。

And it answers only with words

そして、それは以前に使うことを学んだ言葉だけで答えます

it has learned to use before.

。 賢い答えを

Not because it has come up with a clever answer,

見つけたからではありませんが 、

but it does sound like a sentient entity. Sentient describes a living  

感覚を持った存在のように聞こえます 。 センティエントとは、

thing that experiences feelings. As Professor Bender says we imagine  

感情を経験する生き物のことを指します。 ベンダー教授が言うように、私たちは

that when something speaks there is a mind behind it. But sorry Neil,

何かが話すとき、 その背後に心があると想像します。 でも、ニール、ごめんなさい、

they are not your friend.

彼らはあなたの友達ではありません。

They're just machines.

彼らはただの機械です。

Yes, it's strange then

そうですね、

that we sometimes give chatbots names. Alexa, Siri, and earlier

私たちがチャットボットに名前を付けることがあるのは奇妙です。 Alexa、Siri、そして先ほど

I asked you what the name was for their first ever chatbot?

質問しましたが、 彼らの最初のチャットボットの名前は何ですか?

And I guessed it was Parry. Was I right?

そしてそれはパリーだと思いました。 私は正しかったでしょうか？

You guessed wrong, I'm afraid.

残念ですが、あなたの推測は間違っていました。

Parry was an early form of chatbot from 1972.

Parry は 1972 年に登場した初期のチャットボットです。

But the correct answer was Eliza.

しかし、正解は Eliza でした。

It was considered to be the first chatterbot, as it was called then,

これは、 当時そう呼ばれていた最初のチャタボットであると考えられており、マサチューセッツ工科大学の

and was developed by Joseph Weizenbaum at Massachusetts Institute of Technology.

ジョセフ ワイゼンバウムによって開発されました 。

Fascinating stuff.

魅力的なもの。

OK, now let's recap some of the vocabulary

さて、

we highlighted in this programme, starting with sophisticated,

このプログラムで取り上げた語彙の一部を要約しましょう。まず、高度で複雑なテクノロジを説明できる「 洗練された」から始めます

which can describe technology that is advanced and complex.

。

Something that is coherent, is clear carefully considered and sensible.

一貫性があり、 注意深く検討され、賢明であることが明確です。

Authoritative means respected accurate and important sounding.

権威あるとは、正確で重要な響きが尊重されることを意味します 。

When you are on guard

警戒しているときは、

you must be careful and alert about something.

何かについて注意し、警戒しなければなりません。

It could be the accuracy of what you see or hear or just being aware

それは、 見たり聞いたりしたことの正確さ、または単に周囲の危険を認識していることかもしれません

of the dangers around you. To provoke means to do something

。 「 挑発」とは、

that causes a reaction from someone.

誰かの反応を引き起こすようなことをすることを意味します。

Sentient describes something that experiences feelings.

センティエントとは、 感情を経験するものを指します。

So it's something that is living. Once again

だから それは生きているものなのです。 再び

our six minutes are up. Goodbye.

6 分が経過しました。 さようなら。

Bye bye for now.

とりあえずバイバイ。