Can AI have a mind of its own? ⏲️ 6 Minute English

Hello. This is 6 Minute English from

こんにちは。 これは、

BBC Learning English. I’m Sam.

BBC Learning English の 6 Minute English です。 私はサムです。

And I’m Neil.

そして私はニールです。

In the autumn of 2021, something

2021年の秋、カリフォルニア州シリコンバレーに

strange happened at the Google

あるGoogle本社で奇妙なことが起こりました

headquarters in California’s Silicon

Valley. A software engineer called,

。 Blake Lemoine と呼ばれるソフトウェア エンジニアは、

Blake Lemoine, was working on the

artificial intelligence project, ‘Language

人工知能プロジェクト「

Models for Dialogue Applications’, or

対話アプリケーションの言語モデル」、

LaMDA for short. LaMDA is a

略して LaMDA に取り組んでいました。 LaMDA は

chatbot – a computer programme

チャットボットであり、インターネットを介し

designed to have conversations with

て人間と会話するように設計されたコンピューター プログラムです

humans over the internet.

。

After months talking with LaMDA

on topics ranging from movies to

映画から人生の意味まで、さまざまなトピックについて LaMDA と何ヶ月も話し合った後

the meaning of life, Blake came to

、Blake

a surprising conclusion: the chatbot

は驚くべき結論に達しました

was an intelligent person with wishes

and rights that should be respected.

。

For Blake, LaMDA was a Google

ブレイクにとって、LaMDA は

employee, not a machine.

機械ではなく Google の従業員でした。

He also called it his ‘friend’.

彼はそれを彼の「友達」とも呼んだ。

Google quickly reassigned Blake from

Google はすぐに Blake をプロジェクトから再割り当て

the project, announcing that his ideas

し、彼の考え

were not supported by the evidence.

は証拠によって裏付けられていないと発表しました。

But what exactly was going on?

しかし、正確には何が起こっていたのでしょうか?

In this programme, we’ll be

この番組では、

discussing whether artificial intelligence

人工知能

is capable of consciousness. We’ll hear

が意識を持つことができるかどうかについて議論します。 AI は私たちが

from one expert who thinks AI is not as

考えているほど賢くないと考える専門家の話を聞く予定です。

intelligent as we sometimes think,

and as usual, we’ll be learning some

また、いつものように、いくつかの

new vocabulary as well.

新しい語彙も学習します。

But before that, I have a question for

でもその前に、あなたに質問があり

you, Neil. What happened to Blake Lemoine

ます、ニール。 ブレイク・レモワンに起こったこと

is strangely similar to the 2013 Hollywood

は、ホアキン・フェニックス主演の 2013 年のハリウッド映画『He​​r』と奇妙に似ています。

movie, Her, starring Joaquin Phoenix as

a lonely writer who talks with his

彼のコンピューターと話す孤独な作家として、

computer, voiced by Scarlett Johansson.

スカーレット・ヨハンソンが声を出しました。

But what happens at the end

しかし、映画の最後に何が起こる

of the movie? Is it:

でしょうか？ それは:

a) the computer comes to life?

a) コンピューターが生き返りますか?

b) the computer dreams about the writer? or,

b) コンピューターは作家の夢を見ますか? または、

c) the writer falls in love with the computer?

c) 作家はコンピューターに恋をしますか?

... c) the writer falls in love with the computer.

... c) 作家はコンピューターに恋をする。

OK, Neil, I’ll reveal the answer at the end

OK、ニール、番組の最後に答えを明かします

of the programme. Although Hollywood is

。 ハリウッド

full of movies about robots coming to life,

はロボットが命を吹き込むという映画であふれていますが、ワシントン大学

Emily Bender, a professor of linguistics and

の言語学とコンピューティングの教授であるエミリー ベンダーは、

computing at the University of Washington,

thinks AI isn’t that smart. She thinks the

AI はそれほどスマートではないと考えています。 彼女は、

words we use to talk about technology,

私たちがテクノロジーについて話すときに使う

phrases like ‘machine learning’, give a

「機械学習」などの言葉は、

false impression about what

computers can and can’t do.

コンピューターができることとできないことについて誤った印象を与えると考えています。

Here is Professor Bender discussing

これはベンダー教授が

another misleading phrase, ‘speech

別の誤解を招くフレーズ「音声

recognition’, with BBC World Service

認識」について、BBC ワールド サービス

programme, The Inquiry:

プログラム The

If you talk about ‘automatic speech

Inquiry で話し合っ

recognition’, the term ‘recognition’

suggests that there's something

cognitive going on, where I think a

ているところです。

better term would be automatic transcription.

より適切な用語は、自動転写です。

That just describes the input-output

これは単に入力と出力の関係を説明する

relation, and not any theory or wishful

thinking about what the computer is

ものであり、それを達成するためにコンピューターが何をしているのかについての理論や希望的観測ではありません

doing to be able to achieve that.

。 コンピューター

Using words like ‘recognition’ in relation

に関連して「認識」などの言葉を使用すると

to computers gives the idea that

、認知的な何か、つまり

something cognitive is happening – something

related to the mental processes of

thinking, knowing, learning and understanding.

思考、認識、学習、理解の精神的プロセスに関連する何かが起こっているという考えが得られます。

But thinking and knowing are human,

しかし、思考と認識は人間の

not machine, activities. Professor Benders

活動であり、機械の活動ではありません。 ベンダース教授

says that talking about them in connection

は、コンピューターに関連してそれらについて話すこと

with computers is wishful thinking -

は希望的観測

something which is unlikely to happen.

であり、起こりそうにないことだと言います。

The problem with using words in this

このように言葉を使用することの問題点

way is that it reinforces what

Professor Bender calls, technical

は、ベンダー教授が言うところの技術的

bias – the assumption that the computer

バイアス、つまりコンピューター

is always right. When we encounter

が常に正しいという仮定を強化することです。

language that sounds natural, but is

自然に

coming from a computer, humans

聞こえるがコンピューターから発せられた言語に遭遇すると、人間

can’t help but imagine a mind behind

は言語の背後にある心を想像せずにはいら

the language, even when there isn’t one.

れません。

In other words, we anthropomorphise

言い換えれば、私たちはコンピュータを擬人化し

computers – we treat them as if they

ます。つまり、コンピュータを人間であるかのように扱います

were human. Here’s Professor Bender

。 BBC World Service の The Inquiry の司会者である Charmaine Cozier

again, discussing this idea with

とこのアイデアについて議論している Bender 教授が再びい

Charmaine Cozier, presenter of BBC

World Service’s, the Inquiry.

ます。

So ‘ism’ means system, ‘anthro’ or ‘anthropo’

つまり、「イズム」はシステムを意味し、「アントロ」または「アントロポ」

means human, and ‘morph’ means shape...

は人間を意味し、「モーフ」は形を意味します...

And so this is a system that puts the

そして、これ

shape of a human on something, and

は人間の形を何かに置くシステムであり

in this case the something is a computer.

、この場合、何かは コンピューター。

We anthropomorphise animals all the time,

私たちは常に動物を擬人化していますが、

but we also anthropomorphise action figures,

アクション フィギュア、

or dolls, or companies when we talk about

人形、または意図を持つ企業などについて話すときは、企業も擬人化

companies having intentions and so on.

しています。

We very much are in the habit of seeing

私

ourselves in the world around us.

たちは、自分の周りの世界で自分自身を見る習慣があります。

And while we’re busy seeing ourselves

そして、人間の特性をそうでないものに割り当てることで自分自身を見るのに忙しい一方で

by assigning human traits to things that

are not, we risk being blindsided.

、盲目的になるリスクがあります.

The more fluent that text is, the more

テキストが流暢であればあるほど、より多くの

different topics it can converse on, the

異なるトピックについて会話できる

more chances there are to get taken in.

ため、取り込まれる可能性が高くなります

If we treat computers as if they could think,

。コンピューターを思考できるかのように扱うと、不意を

we might get blindsided, or

突かれたり、不愉快な驚きを覚えたりする可能性があります

unpleasantly surprised. Artificial intelligence

。 人工知能

works by finding patterns in massive

は大量のデータからパターンを見つけることで機能する

amounts of data, so it can seem like

ため

we’re talking with a human, instead

of a machine doing data analysis.

、機械がデータ分析を行うのではなく、人間と話しているように見えることがあります。

As a result, we get taken in – we’re tricked

その結果、私たちは騙され

or deceived into thinking we’re dealing

たり騙され

with a human, or with something intelligent.

たりして、人間や知的な何かと取引していると思い込んでしまいます。

Powerful AI can make machines appear conscious,

強力な AI は、マシンに意識があるように見せかけることができ

but even tech giants like Google are years

ますが、Google のようなハイテク大手でさえ、

away from building computers that can

dream or fall in love. Speaking of which,

夢を見たり恋に落ちたりできるコンピューターを構築するには何年もかかります。 そういえば、

Sam, what was the answer to your question?

サム、あなたの質問に対する答えは何でしたか?

I asked what happened in the 2013 movie, Her.

2013年の映画「Her」で何が起こったのか尋ねました。

Neil thought that the main character

ニールは、主人公

falls in love with his computer, which

が自分のコンピューターに恋をしたと思っていましたが、それ

was the correct answer!

は正解でした!

OK. Right, it’s time to recap the vocabulary

わかった。 そうです、チャットボット (インターネットを介して人間と対話するように設計されたコンピューター プログラム)

we’ve learned from this programme about AI,

を含む、このプログラムから学んだ AI に関する語彙を要約する時が来ました

including chatbots - computer programmes

designed to interact with

humans over the internet.

。

The adjective cognitive describes

認知形容詞

anything connected with the mental

processes of knowing,

は、知識、

learning and understanding.

学習、理解の精神的プロセスに関連するあらゆるものを表します。

Wishful thinking means thinking that

希望的観測とは

something which is very unlikely to happen

、起こりそうに

might happen one day in the future.

ないことが将来いつか起こるかもしれないと考えることを意味します。

To anthropomorphise an object means

オブジェクトを擬人化する

to treat it as if it were human,

とは、人間ではないにもかかわらず、人間であるかのように扱うことを意味します

even though it’s not.

。

When you’re blindsided, you’re

盲目的なとき

surprised in a negative way.

は、否定的な意味で驚かされます。

And finally, to get taken in by someone means

そして最後に、誰かに取り込ま

to be deceived or tricked by them.

れるということは、だまされたりだまされたりすることを意味します。

My computer tells me that our six minutes

私のコンピューターは、私たちの 6 分間が終了したことを教えてくれ

are up! Join us again soon, for now

ます! すぐにまた参加して

it’s goodbye from us.

ください。今はさようならです。

Bye!

さよなら！