Can AI have a mind of its own? ⏲️ 6 Minute English

Hello. This is 6 Minute English from

שלום. זוהי 6 דקות אנגלית מבית

BBC Learning English. I’m Sam.

BBC Learning English. אני סאם.

And I’m Neil.

ואני ניל.

In the autumn of 2021, something

בסתיו 2021, משהו

strange happened at the Google

מוזר קרה

headquarters in California’s Silicon

במטה גוגל בעמק הסיליקון של קליפורניה

Valley. A software engineer called,

. מהנדס תוכנה בשם,

Blake Lemoine, was working on the

בלייק למוין, עבד על

artificial intelligence project, ‘Language

פרויקט הבינה המלאכותית, '

Models for Dialogue Applications’, or

מודלים לשוניים ליישומי דיאלוג', או

LaMDA for short. LaMDA is a

בקיצור LaMDA. LaMDA הוא

chatbot – a computer programme

צ'טבוט - תוכנת מחשב

designed to have conversations with

שנועדה לנהל שיחות עם

humans over the internet.

בני אדם דרך האינטרנט.

After months talking with LaMDA

לאחר חודשים ששוחחו עם למד"א

on topics ranging from movies to

על ​​נושאים החל מסרטים ועד

the meaning of life, Blake came to

למשמעות החיים, בלייק הגיע

a surprising conclusion: the chatbot

למסקנה מפתיעה: הצ'טבוט

was an intelligent person with wishes

היה אדם אינטליגנטי עם משאלות

and rights that should be respected.

וזכויות שצריך לכבד.

For Blake, LaMDA was a Google

עבור בלייק, LaMDA היה

employee, not a machine.

עובד של גוגל, לא מכונה.

He also called it his ‘friend’.

הוא גם קרא לזה 'חבר' שלו.

Google quickly reassigned Blake from

גוגל הקצה מחדש את בלייק מהפרויקט במהירות

the project, announcing that his ideas

, והודיעה שהרעיונות שלו

were not supported by the evidence.

אינם נתמכים בראיות.

But what exactly was going on?

אבל מה בדיוק קרה?

In this programme, we’ll be

בתוכנית זו, נדון

discussing whether artificial intelligence

בשאלה האם בינה מלאכותית

is capable of consciousness. We’ll hear

מסוגלת לתודעה. נשמע

from one expert who thinks AI is not as

ממומחה אחד שחושב ש-AI אינו

intelligent as we sometimes think,

אינטליגנטי כמו שאנו חושבים לפעמים,

and as usual, we’ll be learning some

וכרגיל, נלמד

new vocabulary as well.

גם אוצר מילים חדש.

But before that, I have a question for

אבל לפני כן, יש לי שאלה

you, Neil. What happened to Blake Lemoine

אליך, ניל. מה שקרה לבלייק למואן

is strangely similar to the 2013 Hollywood

דומה באופן מוזר לסרט ההוליוודי של 2013

movie, Her, starring Joaquin Phoenix as

, שלה, בכיכובו של חואקין פיניקס

a lonely writer who talks with his

כסופר בודד שמדבר עם

computer, voiced by Scarlett Johansson.

המחשב שלו, בדיבוב של סקרלט ג'והנסון.

But what happens at the end

אבל מה קורה בסוף

of the movie? Is it:

הסרט? האם זה:

a) the computer comes to life?

א) המחשב מתעורר לחיים?

b) the computer dreams about the writer? or,

ב) המחשב חולם על הסופר? או,

c) the writer falls in love with the computer?

ג) הסופר מתאהב במחשב?

... c) the writer falls in love with the computer.

... ג) הסופר מתאהב במחשב.

OK, Neil, I’ll reveal the answer at the end

בסדר, ניל, אני אגלה את התשובה בסוף

of the programme. Although Hollywood is

התוכנית. למרות שהוליווד

full of movies about robots coming to life,

מלאה בסרטים על רובוטים המתעוררים לחיים,

Emily Bender, a professor of linguistics and

אמילי בנדר, פרופסור לבלשנות

computing at the University of Washington,

ומחשוב באוניברסיטת וושינגטון,

thinks AI isn’t that smart. She thinks the

חושבת שבינה מלאכותית אינה כל כך חכמה. היא חושבת

words we use to talk about technology,

שהמילים שאנו משתמשים בהן כדי לדבר על טכנולוגיה,

phrases like ‘machine learning’, give a

ביטויים כמו 'למידת מכונה', נותנות

false impression about what

רושם מוטעה לגבי מה

computers can and can’t do.

מחשבים יכולים לעשות ומה לא.

Here is Professor Bender discussing

הנה פרופסור בנדר דן בביטוי

another misleading phrase, ‘speech

מטעה אחר, '

recognition’, with BBC World Service

זיהוי דיבור', עם תוכנית BBC World Service

programme, The Inquiry:

, The Inquiry:

If you talk about ‘automatic speech

אם אתה מדבר על 'זיהוי דיבור אוטומטי

recognition’, the term ‘recognition’

', המונח 'זיהוי'

suggests that there's something

מצביע על כך שיש משהו

cognitive going on, where I think a

קוגניטיבי שמתרחש, שבו אני חושב ש

better term would be automatic transcription.

מונח טוב יותר יהיה תמלול אוטומטי.

That just describes the input-output

זה רק מתאר את יחס הקלט-פלט

relation, and not any theory or wishful

, ולא כל תיאוריה או משאלת

thinking about what the computer is

לב לגבי מה שהמחשב

doing to be able to achieve that.

עושה כדי להיות מסוגל להשיג זאת.

Using words like ‘recognition’ in relation

שימוש במילים כמו 'הכרה' ביחס

to computers gives the idea that

למחשבים נותן את הרעיון שמשהו

something cognitive is happening – something

קוגניטיבי קורה - משהו

related to the mental processes of

שקשור לתהליכים המנטליים של

thinking, knowing, learning and understanding.

חשיבה, ידיעה, למידה והבנה.

But thinking and knowing are human,

אבל חשיבה וידיעה הן פעילויות אנושיות,

not machine, activities. Professor Benders

לא מכונה. פרופסור בנדרס

says that talking about them in connection

אומר שלדבר עליהם בקשר

with computers is wishful thinking -

למחשבים הוא משאלת לב -

something which is unlikely to happen.

דבר שלא סביר שיקרה.

The problem with using words in this

הבעיה בשימוש במילים בצורה כזו

way is that it reinforces what

היא שזה מחזק את מה

Professor Bender calls, technical

שפרופסור בנדר מכנה,

bias – the assumption that the computer

הטיה טכנית - ההנחה שהמחשב

is always right. When we encounter

תמיד צודק. כאשר אנו פוגשים

language that sounds natural, but is

שפה שנשמעת טבעית, אך

coming from a computer, humans

מגיעה ממחשב, בני אדם

can’t help but imagine a mind behind

לא יכולים שלא לדמיין מוח מאחורי

the language, even when there isn’t one.

השפה, גם כשאין כזו.

In other words, we anthropomorphise

במילים אחרות, אנו עושים אנתרופומורפיזציה של

computers – we treat them as if they

מחשבים - אנו מתייחסים אליהם כאילו

were human. Here’s Professor Bender

היו אנושיים. הנה שוב פרופסור בנדר

again, discussing this idea with

, דן ברעיון הזה עם

Charmaine Cozier, presenter of BBC

שרמיין קוזייר, מגישת ה-BBC

World Service’s, the Inquiry.

World Service של החקירה.

So ‘ism’ means system, ‘anthro’ or ‘anthropo’

אז 'איזם' פירושו מערכת, 'אנתרו' או 'אנתרופו'

means human, and ‘morph’ means shape...

פירושו אנושי, ו'מורף' פירושו צורה...

And so this is a system that puts the

ולכן זו מערכת ששמה

shape of a human on something, and

צורה של אדם על משהו,

in this case the something is a computer.

ובמקרה הזה המשהו הוא מַחשֵׁב.

We anthropomorphise animals all the time,

אנחנו עושים אנתרופומורפיזציה של בעלי חיים כל הזמן,

but we also anthropomorphise action figures,

אבל אנחנו גם עושים אנתרופומורפיזציה של דמויות פעולה,

or dolls, or companies when we talk about

או בובות, או חברות כשאנחנו מדברים על

companies having intentions and so on.

חברות שיש להן כוונות וכן הלאה.

We very much are in the habit of seeing

אנחנו מאוד נוהגים לראות

ourselves in the world around us.

את עצמנו בעולם שסביבנו.

And while we’re busy seeing ourselves

ובעוד אנחנו עסוקים בלהראות את עצמנו

by assigning human traits to things that

על ידי הקצאת תכונות אנושיות לדברים

are not, we risk being blindsided.

שאינם, אנו מסתכנים בסנוורים.

The more fluent that text is, the more

ככל שהטקסט שוטף יותר, כך

different topics it can converse on, the

הוא יכול לשוחח על נושאים שונים יותר, כך יש

more chances there are to get taken in.

יותר סיכוי להיקלט.

If we treat computers as if they could think,

אם נתייחס למחשבים כאילו הם יכולים לחשוב,

we might get blindsided, or

אנו עלולים להסתכל או להיות

unpleasantly surprised. Artificial intelligence

מופתעים באופן לא נעים. בינה מלאכותית

works by finding patterns in massive

פועלת על ידי מציאת דפוסים בכמויות אדירות

amounts of data, so it can seem like

של נתונים, כך שזה יכול להיראות כאילו

we’re talking with a human, instead

אנחנו מדברים עם אדם,

of a machine doing data analysis.

במקום שמכונה עושה ניתוח נתונים.

As a result, we get taken in – we’re tricked

כתוצאה מכך, אנו נקלטים - מרמים אותנו

or deceived into thinking we’re dealing

או מרמים אותנו לחשוב שיש לנו עסק

with a human, or with something intelligent.

עם אדם, או עם משהו אינטליגנטי.

Powerful AI can make machines appear conscious,

בינה מלאכותית חזקה יכולה לגרום למכונות להיראות מודעות,

but even tech giants like Google are years

אבל אפילו ענקיות טכנולוגיה כמו גוגל

away from building computers that can

רחוקות שנים מבניית מחשבים שיכולים

dream or fall in love. Speaking of which,

לחלום או להתאהב. אם כבר מדברים על זה,

Sam, what was the answer to your question?

סם, מה הייתה התשובה לשאלתך?

I asked what happened in the 2013 movie, Her.

שאלתי מה קרה בסרט שלה מ-2013.

Neil thought that the main character

ניל חשב שהדמות הראשית

falls in love with his computer, which

מתאהבת במחשב שלו, וזו

was the correct answer!

הייתה התשובה הנכונה!

OK. Right, it’s time to recap the vocabulary

בסדר. נכון, הגיע הזמן לסכם את אוצר המילים

we’ve learned from this programme about AI,

שלמדנו מהתוכנית הזו על AI,

including chatbots - computer programmes

כולל צ'טבוטים - תוכנות מחשב

designed to interact with

שנועדו לקיים אינטראקציה עם

humans over the internet.

בני אדם דרך האינטרנט.

The adjective cognitive describes

שם התואר קוגניטיבי מתאר

anything connected with the mental

כל דבר הקשור

processes of knowing,

לתהליכים המנטליים של ידיעה,

learning and understanding.

למידה והבנה.

Wishful thinking means thinking that

משאלת לב פירושה לחשוב שמשהו

something which is very unlikely to happen

שסביר מאוד שלא יקרה

might happen one day in the future.

עלול לקרות יום אחד בעתיד.

To anthropomorphise an object means

לאנתרופומורפיזציה של חפץ פירושו

to treat it as if it were human,

להתייחס אליו כאילו הוא אנושי,

even though it’s not.

למרות שהוא לא.

When you’re blindsided, you’re

כשאתה מעוור, אתה

surprised in a negative way.

מופתע בצורה שלילית.

And finally, to get taken in by someone means

ולבסוף, להיקלט על ידי מישהו פירושו

to be deceived or tricked by them.

להיות שולל או לרמות על ידו.

My computer tells me that our six minutes

המחשב שלי אומר לי ששש הדקות שלנו

are up! Join us again soon, for now

נגמרו! הצטרפו אלינו שוב בקרוב, לעת עתה

it’s goodbye from us.

זה להתראות מאיתנו.

Bye!

ביי!