Why we have an emotional connection to robots | Kate Darling

Translator: Joseph Geni Reviewer: Krystian Aparta

תרגום: maor madmon עריכה: Ido Dekkers

There was a day, about 10 years ago,

יום אחד, לפני עשר שנים בערך,

when I asked a friend to hold a baby dinosaur robot upside down.

ביקשתי מחבר להחזיק רובוט של דינוזאור תינוק הפוך.

It was this toy called a Pleo that I had ordered,

זה היה צעצוע בשם פליאו שהזמנתי,

and I was really excited about it because I've always loved robots.

והייתי נרגשת מאוד כי תמיד אהבתי רובוטים.

And this one has really cool technical features.

ולרובוט הזה היו תכונות ממש מגניבות.

It had motors and touch sensors

היו לו מנועים וחיישני נגיעה

and it had an infrared camera.

ומצלמת אינפרא-אדום.

And one of the things it had was a tilt sensor,

והיה לו גם חיישן הטייה,

so it knew what direction it was facing.

כך שהוא ידע באיזה כיוון מחזיקים אותו ביחס לאדמה.

And when you held it upside down,

וכשהחזיקו אותו הפוך,

it would start to cry.

הוא היה מתחיל לבכות.

And I thought this was super cool, so I was showing it off to my friend,

אני חשבתי שזה ממש מגניב, אז הראיתי את זה לחבר שלי,

and I said, "Oh, hold it up by the tail. See what it does."

ואמרתי, "תחזיק אותו מהזנב ותראה מה הוא עושה."

So we're watching the theatrics of this robot

אז עמדנו וצפינו ברובוט

struggle and cry out.

שהתחיל להיאבק ולבכות.

And after a few seconds,

ואחרי כמה שניות,

it starts to bother me a little,

זה התחיל להציק לי קצת,

and I said, "OK, that's enough now.

ואמרתי, "בסדר, זה מספיק.

Let's put him back down."

בוא נניח אותו."

And then I pet the robot to make it stop crying.

ואז ליטפתי את הרובוט כדי שיפסיק לבכות.

And that was kind of a weird experience for me.

זו הייתה חוויה די משונה בשבילי.

For one thing, I wasn't the most maternal person at the time.

מצד אחד, לא הייתי מאוד אימהית בזמנו.

Although since then I've become a mother, nine months ago,

למרות שמאז הפכתי לאם, לפני תשעה חודשים,

and I've learned that babies also squirm when you hold them upside down.

ולמדתי שגם תינוקות מתחילים לבכות כשמחזיקים אותם הפוך.

(Laughter)

(צחוק)

But my response to this robot was also interesting

אבל התגובה שלי לרובוט הזה הייתה מעניינת

because I knew exactly how this machine worked,

כי ידעתי בדיוק כיצד המכונה הזאת עובדת,

and yet I still felt compelled to be kind to it.

ובכל זאת הרגשתי צורך להיות נחמדה אליה.

And that observation sparked a curiosity

ההבחנה הזו הציתה בי סקרנות

that I've spent the past decade pursuing.

שהובילה את המחקר שלי בעשור האחרון.

Why did I comfort this robot?

למה ליטפתי וניחמתי את הרובוט?

And one of the things I discovered was that my treatment of this machine

ואחד הדברים שגיליתי, היה שהיחס שלי למכונה הזו

was more than just an awkward moment in my living room,

היה יותר מרגע מביך בסלון שלי.

that in a world where we're increasingly integrating robots into our lives,

שבעולם שבו יותר ויותר רובוטים משתלבים בחיינו,

an instinct like that might actually have consequences,

לאינסטינקט כזה יכולות להיות השלכות.

because the first thing that I discovered is that it's not just me.

כי הדבר הראשון שגיליתי היה שאני לא היחידה.

In 2007, the Washington Post reported that the United States military

בשנת 2007, העיתון וושינגטון פוסט דיווח שצבא ארה"ב

was testing this robot that defused land mines.

ערך ניסויים עם רובוט לנטרול מוקשים.

And the way it worked was it was shaped like a stick insect

זה היה רובוט בצורת חרק מקלוני

and it would walk around a minefield on its legs,

שהיה אמור ללכת בשדות מוקשים,

and every time it stepped on a mine, one of the legs would blow up,

ובכל פעם שדרך על מוקש, אחת מרגליו היתה מתפוצצת,

and it would continue on the other legs to blow up more mines.

והוא היה ממשיך ללכת על הרגליים שנותרו לו ולפוצץ מוקשים נוספים.

And the colonel who was in charge of this testing exercise

הקולונל שהיה אחראי לבדיקת הרובוט

ends up calling it off,

עצר את הבדיקה בשלב מסויים,

because, he says, it's too inhumane

כיוון שלטענתו זה היה אכזרי מדי

to watch this damaged robot drag itself along the minefield.

לצפות ברובוט הפגוע ממשיך לגרור את עצמו על הרגליים שנותרו לו בשדה המוקשים.

Now, what would cause a hardened military officer

עכשיו, מה יכול לגרום לקצין צבא קשוח

and someone like myself

ולאישה כמוני

to have this response to robots?

להגיב באופן כזה לרובוטים?

Well, of course, we're primed by science fiction and pop culture

ובכן, כמובן, המדע הבדיוני ותרבות הפופ השפיעו עלינו

to really want to personify these things,

וגרמו לנו להשליך רגשות ותכונות אנושיות על החפצים האלו,

but it goes a little bit deeper than that.

אבל זה טיפה יותר עמוק מזה.

It turns out that we're biologically hardwired to project intent and life

מסתבר שאנחנו מתוכנתים ביולוגית להניח את קיומם של כוונות וחיים

onto any movement in our physical space that seems autonomous to us.

עבור כל דבר שנע במרחב ונראה אוטונומי.

So people will treat all sorts of robots like they're alive.

כך שאנשים יתייחסו לכל מני רובוטים כאילו הם חיים.

These bomb-disposal units get names.

הרובוטים לפירוק מוקשים מקבלים שמות.

They get medals of honor.

הם מקבלים מדליות.

They've had funerals for them with gun salutes.

ערכו להם הלוויות צבאיות מכובדות.

And research shows that we do this even with very simple household robots,

והמחקר מראה שאנחנו עושים את זה אפילו עם רובוטים ביתיים פשוטים,

like the Roomba vacuum cleaner.

כמו הרובוט שואב האבק.

(Laughter)

(צחוק)

It's just a disc that roams around your floor to clean it,

זה בסה"כ משהו עגול שמסתובב על הרצפה ומנקה אותה,

but just the fact it's moving around on its own

אבל עצם העובדה שהוא נע בכוחות עצמו

will cause people to name the Roomba

תגרום לאנשים לתת לו שם

and feel bad for the Roomba when it gets stuck under the couch.

ולהרגיש רע עבורו כשהוא נתקע מתחת לספה.

(Laughter)

(צחוק)

And we can design robots specifically to evoke this response,

ואנחנו יכולים לתכנן רובוטים במיוחד כדי לעורר את התגובה הזו,

using eyes and faces or movements

בעזרת עיניים ופנים או תנועה

that people automatically, subconsciously associate

כך שאנשים ייחסו להם תכונות ורגשות

with states of mind.

באופן אוטומטי, תת מודע.

And there's an entire body of research called human-robot interaction

ויש תחום מחקר שלם, שנקרא יחסי אדם-רובוט

that really shows how well this works.

שמראה עד כמה טוב זה עובד.

So for example, researchers at Stanford University found out

לדוגמה, חוקרים באוניברסיטת סטנפורד

that it makes people really uncomfortable

גילו שאנשים מרגישים לא בנוח

when you ask them to touch a robot's private parts.

כשמבקשים מהם לגעת באיברים המוצנעים של הרובוט.

(Laughter)

(צחוק)

So from this, but from many other studies,

מהמחקר הזה, וממחקרים רבים נוספים,

we know, we know that people respond to the cues given to them

אנחנו יודעים שאנשים מגיבים לסימנים

by these lifelike machines,

שנותנות המכונות דמויות-החיים הללו

even if they know that they're not real.

אפילו כשהם יודעים שזה לא אמיתי.

Now, we're headed towards a world where robots are everywhere.

עכשיו, אנחנו צועדים לעבר עולם שבו הרובוטים נמצאים בכל מקום.

Robotic technology is moving out from behind factory walls.

הטכנולוגיה הרובוטית יוצאת מגבולות המפעלים והתעשייה.

It's entering workplaces, households.

היא נכנסת למקומות עבודה ולבתים פרטיים.

And as these machines that can sense and make autonomous decisions and learn

וכשהמכונות האלו, שיכולות לחוש ולקבל החלטות וללמוד

enter into these shared spaces,

נכנסות לחללים המשותפים הללו,

I think that maybe the best analogy we have for this

אני חושבת שהאנלוגיה הטובה ביותר שיש לנו עבור זה

is our relationship with animals.

היא היחס שלנו לבעלי החיים.

Thousands of years ago, we started to domesticate animals,

לפני אלפי שנים, התחלנו לביית חיות,

and we trained them for work and weaponry and companionship.

ואימנו אותם לעבודה, למלחמה וללוויה.

And throughout history, we've treated some animals like tools or like products,

לאורך ההיסטוריה, התייחסנו לחיות מסויימות כאל כלים או מוצרים,

and other animals, we've treated with kindness

ולחיות אחרות התייחסנו בחמלה

and we've given a place in society as our companions.

ונתנו להן מקום בחברה כבני הלוויה שלנו.

I think it's plausible we might start to integrate robots in similar ways.

נראה לי הגיוני שנתחיל לשלב רובוטים באופן דומה.

And sure, animals are alive.

וכמובן, בעלי חיים הם חיים.

Robots are not.

רובוטים אינם חיים.

And I can tell you, from working with roboticists,

ואני יכולה לספר לכן, מעבודתי בתחום הרובוטיקה,

that we're pretty far away from developing robots that can feel anything.

שאנחנו רחוקים מאוד מהיכולת לפתח רובוטים בעלי רגשות.

But we feel for them,

אבל אנחנו מזדהים איתם,

and that matters,

וזה חשוב,

because if we're trying to integrate robots into these shared spaces,

כי אם אנחנו מנסים להכניס רובוטים לחללים המשותפים הללו,

we need to understand that people will treat them differently than other devices,

אנחנו צריכים להבין שאנשים יתייחסו אליהם אחרת מאשר למכשירים אחרים,

and that in some cases,

ושבמקרים מסויימים,

for example, the case of a soldier who becomes emotionally attached

לדוגמה, במקרה של חייל שנקשר רגשית

to the robot that they work with,

לרובוט שעבד איתו,

that can be anything from inefficient to dangerous.

זה יכול להיות לא יעיל ואף מסוכן.

But in other cases, it can actually be useful

אבל במקרים אחרים, זה יכול להיות שימושי

to foster this emotional connection to robots.

לחזק את הקשר הרגשי לרובוטים.

We're already seeing some great use cases,

אנחנו כבר רואים מקרים כאלו.

for example, robots working with autistic children

לדוגמה, רובוטים שעובדים עם ילדים אוטיסטים

to engage them in ways that we haven't seen previously,

ומצליחים להגיע אליהם באופנים חדשים,

or robots working with teachers to engage kids in learning with new results.

או רובוטים שעובדים עם מורים לאתגר תלמידים שמראים תוצאות חדשות.

And it's not just for kids.

וזה לא רק עבור ילדים.

Early studies show that robots can help doctors and patients

מחקרים ראשוניים מראים שרובוטים יכולים לעזור לרופאים ולמטופלים

in health care settings.

לנהל טוב יותר את הטיפול הרפואי.

This is the PARO baby seal robot.

זה רובוט בצורת כלב-ים תינוק של חברת PARO

It's used in nursing homes and with dementia patients.

משתמשים בו בבתי אבות ובאופן כללי עבור חולי דמנציה.

It's been around for a while.

הוא נמצא בשימוש כבר זמן מה.

And I remember, years ago, being at a party

ואני זוכרת שלפני שנים, הייתי במסיבה

and telling someone about this robot,

וסיפרתי למישהי על הרובוט הזה.

and her response was,

והתגובה שלה היתה,

"Oh my gosh.

"אלוהים אדירים.

That's horrible.

זה איום ונורא.

I can't believe we're giving people robots instead of human care."

אני לא מאמינה שאנחנו נותנים לאנשים רובוטים במקום טיפול אנושי."

And this is a really common response,

זו תגובה נפוצה,

and I think it's absolutely correct,

ואני חושבת שהיא נכונה לחלוטין,

because that would be terrible.

כי זה באמת יהיה נורא.

But in this case, it's not what this robot replaces.

אבל במקרה הזה, הרובוט לא מחליף את הטיפול האנושי.

What this robot replaces is animal therapy

הרובוט הזה מחליף תרפיה ע"י טיפול בבע"ח

in contexts where we can't use real animals

במקרים בהם אי אפשר לתת למטופל לטפל בבעלי חיים אמיתיים

but we can use robots,

אבל אפשר להשתמש ברובוטים,

because people will consistently treat them more like an animal than a device.

כי אנשים מתייחסים אליהם כמו אל בעלי חיים ולא כמו אל מכשירים.

Acknowledging this emotional connection to robots

אם נכיר בקשר הרגשי הזה עם הרובוטים

can also help us anticipate challenges

נהיה מסוגלים לצפות את האתגרים שנכונים לנו

as these devices move into more intimate areas of people's lives.

כשהמכשירים הללו יכנסו לתחומים אישיים יותר בחיינו.

For example, is it OK if your child's teddy bear robot

לדוגמא, האם זה בסדר שהרובוט-צעצוע של הילד שלכם

records private conversations?

יקליט שיחות אישיות?

Is it OK if your sex robot has compelling in-app purchases?

האם זה בסדר שרובוט-הסקס שלכם יציע אפשרויות רכישה?

(Laughter)

(צחוק)

Because robots plus capitalism

כי אם משלבים רובוטים וקפיטליזם

equals questions around consumer protection and privacy.

מקבלים סוגיות של פרטיות והגנה על הצרכן.

And those aren't the only reasons

ואלו אינן הסיבות היחידות

that our behavior around these machines could matter.

בגללן ההתנהגות שלנו כלפי המכונות האלו משנה.

A few years after that first initial experience I had

כמה שנים לאחר ההתנסות הראשונית שלי

with this baby dinosaur robot,

עם הרובוט בצורת דינוזאור תינוק

I did a workshop with my friend Hannes Gassert.

העברתי סדנא עם חברי הנס גאזרט

And we took five of these baby dinosaur robots

ולקחנו חמישה רובוטים כאלו

and we gave them to five teams of people.

ונתנו אותם לחמש קבוצות של אנשים.

And we had them name them

וביקשנו מהם לתת להם שמות

and play with them and interact with them for about an hour.

ולשחק איתם ולתקשר איתם במשך כשעה.

And then we unveiled a hammer and a hatchet

ואז חשפנו בפניהם פטיש וגרזן

and we told them to torture and kill the robots.

וביקשנו מהם לענות ולהרוג את הרובוטים.

(Laughter)

(צחוק)

And this turned out to be a little more dramatic

וזה הפך להיות יותר דרמטי

than we expected it to be,

מכפי שציפינו שזה יהיה,

because none of the participants would even so much as strike

כי אף אחד מהמשתתפים לא היה מוכן אפילו להכות

these baby dinosaur robots,

את הרובוט דינוזאור-תינוק,

so we had to improvise a little, and at some point, we said,

אז אילתרנו קצת, ובשלב מסויים אמרנו,

"OK, you can save your team's robot if you destroy another team's robot."

"בסדר, תוכלו להציל את הרובוט של הקבוצה שלכם אם תשמידו את הרובוט של הקבוצה השנייה."

(Laughter)

(צחוק)

And even that didn't work. They couldn't do it.

ואפילו אז לא הצלחנו. הם לא היו מסוגלים לעשות את זה.

So finally, we said,

אז לבסוף אמרנו,

"We're going to destroy all of the robots

"אנחנו הולכים להרוס את כל הרובוטים

unless someone takes a hatchet to one of them."

אלא אם כן מישהו מכן יכה באחד מהם בגרזן."

And this guy stood up, and he took the hatchet,

ובחור אחד נעמד, ולקח את הגרזן,

and the whole room winced as he brought the hatchet down

וכל החדר נרתע כשהוא הכה בגרזן

on the robot's neck,

על צוואר הרובוט,

and there was this half-joking, half-serious moment of silence in the room

והיתה דקת דומייה, חצי-בצחוק חצי-רצינית

for this fallen robot.

לזכרו של הרובוט.

(Laughter)

(צחוק)

So that was a really interesting experience.

זו הייתה חוויה מאוד מעניינת.

Now, it wasn't a controlled study, obviously,

ברור שזה לא היה ניסוי מבוקר,

but it did lead to some later research that I did at MIT

אבל הוא הוביל למחקר נוסף שערכתי ב-MIT

with Palash Nandy and Cynthia Breazeal,

עם פלש ננדי וסינתיה בריזיל,

where we had people come into the lab and smash these HEXBUGs

שבו הכנסנו אנשים למעבדה וביקשנו מהם לרמוס רובוטי HEXBUG

that move around in a really lifelike way, like insects.

שהתרוצצו על הרצפה ממש כמו חרקים אמתיים.

So instead of choosing something cute that people are drawn to,

במקום לבחור משהו חמוד שאנשים נמשכים אליו,

we chose something more basic,

בחרנו משהו יותר בסיסי

and what we found was that high-empathy people

וגילינו שאנשים מאוד אמפתיים

would hesitate more to hit the HEXBUGS.

היססו יותר לפגוע ב-HEXBUG.

Now this is just a little study,

זה רק מחקר אחד קטן,

but it's part of a larger body of research

אבל הוא חלק מגוף ידע הולך וגדל

that is starting to indicate that there may be a connection

שמצביע על קשר אפשרי

between people's tendencies for empathy

בין היכולת של אנשים לגלות אמפתיה

and their behavior around robots.

להתנהגות שלהם כלפי רובוטים.

But my question for the coming era of human-robot interaction

אבל השאלה שלי, עבור העידן המתקרב של אינטראקציה בין רובוטים לבני אדם

is not: "Do we empathize with robots?"

אינה: "האם אנו מרגישים אמפתיה כלפי רובוטים?"

It's: "Can robots change people's empathy?"

אלא: "האם רובוטים יכולים לשנות את היכולת של אנשים לחוש אמפתיה?"

Is there reason to, for example,

האם יש סיבה, לדוגמא,

prevent your child from kicking a robotic dog,

למנוע מילד לבעוט בכלב רובוטי,

not just out of respect for property,

לא כדי ללמד אותו כבוד לרכוש,

but because the child might be more likely to kick a real dog?

אלא כיוון שהוא עלול לבעוט בעתיד בכלבים אמתיים?

And again, it's not just kids.

ושוב, לא מדובר רק בילדים.

This is the violent video games question, but it's on a completely new level

זו אותה שאלה שעולה לגבי משחקי וידאו אלימים, אבל ברמה אחרת לגמרי

because of this visceral physicality that we respond more intensely to

כי אנחנו מגיבים בעוצמה גבוהה הרבה יותר לעצמים פיזיים

than to images on a screen.

מאשר לתמונות על מסך.

When we behave violently towards robots,

כשאנחנו אלימים כלפי רובוטים,

specifically robots that are designed to mimic life,

במיוחד רובוטים שעוצבו כך שהם מחקים חיים,

is that a healthy outlet for violent behavior

האם זאת דרך בריאה לשחרר יצרים אלימים

or is that training our cruelty muscles?

או אימון של שריר האכזריות שלנו?

We don't know ...

אנחנו לא יודעים...

But the answer to this question has the potential to impact human behavior,

אבל לתשובה על השאלה הזו יש את היכולת להשפיע על ההתנהגות האנושית,

it has the potential to impact social norms,

יש לה את היכולת להשפיע על הנורמות החברתיות,

it has the potential to inspire rules around what we can and can't do

יש לה את היכולת לעצב חוקים לגבי מה מותר ואסור

with certain robots,

לעשות עם רובוטים מסוג מסויים,

similar to our animal cruelty laws.

בדומה לחוקי צער בעלי חיים.

Because even if robots can't feel,

כיוון שאפילו אם רובוטים אינם מרגישים דבר,

our behavior towards them might matter for us.

ההתנהגות שלנו כלפיהם עלולה לשנות אותנו.

And regardless of whether we end up changing our rules,

ובין אם בסופו של דבר נשנה את החוקים או לא

robots might be able to help us come to a new understanding of ourselves.

הרובוטים יכולים לעזור לנו להבין את עצמנו טוב יותר.

Most of what I've learned over the past 10 years

לרוב מה שלמדתי בעשר השנים האחרונות

has not been about technology at all.

לא היה כל קשר לטכנולוגיה.

It's been about human psychology

למדתי על הפסיכולוגיה האנושית

and empathy and how we relate to others.

על אמפתיה ועל איך שאנחנו מתייחסים האחד לשני.

Because when a child is kind to a Roomba,

כי כשילד מגלה חמלה כלפי רובוט שואב-אבק,

when a soldier tries to save a robot on the battlefield,

כשחייל מנסה להציל רובוט בשדה הקרב,

or when a group of people refuses to harm a robotic baby dinosaur,

או כשקבוצת אנשים מסרבת לפגוע בדינוזאור-תינוק רובוטי,

those robots aren't just motors and gears and algorithms.

הרובוטים האלו אינם רק מנוע וגלגלי שיניים ואלגוריתמים.

They're reflections of our own humanity.

הם השתקפויות של האנושיות שלנו.

Thank you.

תודה.

(Applause)

(מחיאות כפיים)