Why we have an emotional connection to robots | Kate Darling

Translator: Joseph Geni Reviewer: Krystian Aparta

Translator: An Pham Reviewer: Ai Van Tran

Có một ngày, cách đây khoảng 10 năm,

khi tôi nhờ một người bạn giữ cho một con rô bốt khủng long lộn ngược.

There was a day, about 10 years ago,

Đó là món đồ chơi có tên Pleo mà tôi đã đặt mua,

when I asked a friend to hold a baby dinosaur robot upside down.

và tôi thực sự rất hào hứng với nó vì tôi luôn yêu thích những con rô bốt.

It was this toy called a Pleo that I had ordered,

Con này có những tính năng rất thú vị.

Nó có động cơ, cảm biến cảm ứng

and I was really excited about it because I've always loved robots.

và một camera hồng ngoại.

Một trong những thứ nó có là cảm biến độ nghiêng,

And this one has really cool technical features.

vì vậy nó biết đang phải đối mặt với hướng nào.

It had motors and touch sensors

Và khi bạn cầm ngược nó lên,

and it had an infrared camera.

nó sẽ bắt đầu kêu lên.

And one of the things it had was a tilt sensor,

Và tôi nghĩ điều này thật tuyệt, vì vậy tôi đã khoe nó với bạn của mình,

so it knew what direction it was facing.

và tôi nói, “Hãy chổng ngược nó lên. Xem nó làm gì.”

And when you held it upside down,

it would start to cry.

And I thought this was super cool, so I was showing it off to my friend,

Vì vậy, chúng tôi đang xem robot này

and I said, "Oh, hold it up by the tail. See what it does."

vật lộn và la hét.

Và sau một vài giây,

So we're watching the theatrics of this robot

nó bắt đầu làm phiền tôi một chút,

struggle and cry out.

và tôi nói, “Được rồi, đủ rồi.

And after a few seconds,

Hãy đặt cậu ta xuống.”

it starts to bother me a little,

Và sau đó tôi cưng nựng con robot để nó ngừng kêu.

and I said, "OK, that's enough now.

Và đó là một loại trải nghiệm kỳ lạ đối với tôi.

Let's put him back down."

Có điều, tôi không phải là người mẫu mực nhất vào thời điểm đó.

And then I pet the robot to make it stop crying.

And that was kind of a weird experience for me.

Mặc dù tôi đã trở thành một người mẹ, cách đó 9 tháng,

và tôi đã biết rằng trẻ sơ sinh cũng vặn vẹo khi bạn cầm ngược chúng lên.

For one thing, I wasn't the most maternal person at the time.

(Cười)

Although since then I've become a mother, nine months ago,

Phản ứng của tôi với con rô bốt này rất thú vị

vì tôi biết chính xác cách hoạt động của cỗ máy này,

and I've learned that babies also squirm when you hold them upside down.

(Laughter)

và tôi vẫn cảm thấy bị bắt buộc phải đối xử tốt với nó

But my response to this robot was also interesting

because I knew exactly how this machine worked,

Và quan sát đó đã khơi dậy sự tò mò

mà tôi đã dành cả thập kỷ qua để theo đuổi.

and yet I still felt compelled to be kind to it.

Tại sao tôi lại an ủi con robot này?

And that observation sparked a curiosity

Một trong những điều tôi phát hiện ra là hành xử của tôi với cỗ máy này

that I've spent the past decade pursuing.

không chỉ là một khoảnh khắc khó xử trong phòng khách của tôi,

Why did I comfort this robot?

mà trong một thế giới chúng ta ngày càng tích hợp rô bốt vào cuộc sống của mình,

And one of the things I discovered was that my treatment of this machine

was more than just an awkward moment in my living room,

một bản năng như vậy thực sự có thể gây ra hậu quả,

that in a world where we're increasingly integrating robots into our lives,

bởi vì điều đầu tiên mà tôi phát hiện ra rằng đó không chỉ là tôi.

an instinct like that might actually have consequences,

Năm 2007, tờ Washington Post đưa tin rằng quân đội Hoa Kỳ

because the first thing that I discovered is that it's not just me.

đang thử nghiệm loại rô bốt có nhiệm vụ phá mìn trên đất liền.

Và cách hoạt động của nó có hình dạng như một con côn trùng

In 2007, the Washington Post reported that the United States military

và nó sẽ đi quanh bãi mìn bằng hai chân của mình,

was testing this robot that defused land mines.

và mỗi khi nó giẫm phải mìn, một chân sẽ nổ tung,

And the way it worked was it was shaped like a stick insect

và nó sẽ tiếp tục đi trên các chân khác để cho nổ thêm mìn.

and it would walk around a minefield on its legs,

Và vị đại tá phụ trách bài tập thử nghiệm này

and every time it stepped on a mine, one of the legs would blow up,

đã kết thúc cuộc tập trận này,

and it would continue on the other legs to blow up more mines.

bởi vì, theo ông, thật quá vô nhân đạo

And the colonel who was in charge of this testing exercise

khi nhìn con rô bốt hư hỏng này tự lê lết dọc bãi mìn.

ends up calling it off,

because, he says, it's too inhumane

Bây giờ, điều gì sẽ khiến một sĩ quan quân đội cứng rắn

to watch this damaged robot drag itself along the minefield.

và một người như tôi

có phản ứng này với robot?

Now, what would cause a hardened military officer

Tất nhiên, chúng ta bị khoa học viễn tưởng và văn hóa đại chúng

and someone like myself

đánh giá là thực sự muốn nhân cách hóa những thứ này,

to have this response to robots?

nhưng nó đi sâu hơn thế một chút.

Well, of course, we're primed by science fiction and pop culture

Hóa ra về mặt sinh học, chúng ta có cố gắng phóng chiếu ý định và sự sống

to really want to personify these things,

but it goes a little bit deeper than that.

lên bất kỳ chuyển động trong không gian mà đối với chúng ta dường như tự trị.

It turns out that we're biologically hardwired to project intent and life

Vì vậy, mọi người sẽ đối xử với tất thảy rô bốt như chúng đang sống.

onto any movement in our physical space that seems autonomous to us.

Các đơn vị xử lý bom này được đặt tên.

Chúng có được huy chương danh dự.

Họ tổ chức tang lễ cho chúng với tiếng súng chào.

So people will treat all sorts of robots like they're alive.

Nghiên cứu cho thấy ta làm được điều này với cả những rô bốt gia dụng đơn giản,

These bomb-disposal units get names.

They get medals of honor.

như máy hút bụi Roomba.

They've had funerals for them with gun salutes.

(Cười)

Nó chỉ là một chiếc đĩa quay quanh sàn nhà của bạn để làm sạch,

And research shows that we do this even with very simple household robots,

nhưng thực tế là nó tự di chuyển xung quanh

like the Roomba vacuum cleaner.

sẽ khiến mọi người đặt tên là Roomba

(Laughter)

và cảm thấy tồi tệ cho Roomba khi nó bị mắc kẹt dưới ghế dài.

It's just a disc that roams around your floor to clean it,

but just the fact it's moving around on its own

(Cười)

Và chúng ta có thể làm ra rô bốt đặc biệt để gợi lên phản ứng này,

will cause people to name the Roomba

and feel bad for the Roomba when it gets stuck under the couch.

sử dụng mắt và khuôn mặt hoặc các chuyển động

(Laughter)

mà con người tự động liên kết

And we can design robots specifically to evoke this response,

với trạng thái của tâm trí trong tiềm thức.

using eyes and faces or movements

Và có một nhóm nghiên cứu được gọi là tương tác giữa người và rô bốt

that people automatically, subconsciously associate

đã cho thấy điều này hiệu quả ra sao.

Ví dụ, các nhà nghiên cứu tại Đại học Stanford phát hiện ra rằng

with states of mind.

And there's an entire body of research called human-robot interaction

điều đó khiến mọi người thực sự khó chịu

khi bạn yêu cầu họ chạm vào bộ phận của rô bốt.

that really shows how well this works.

(Cười)

So for example, researchers at Stanford University found out

Vì vậy, từ những nghiên cứu này,

that it makes people really uncomfortable

chúng ta biết rằng mọi người phản ứng với các tín hiệu được cung cấp

when you ask them to touch a robot's private parts.

(Laughter)

bởi những cỗ máy giống như thật này,

So from this, but from many other studies,

cả khi họ biết rằng chúng không có thật.

we know, we know that people respond to the cues given to them

Bây giờ, chúng ta đang hướng tới một thế giới mà rô bốt ở khắp mọi nơi.

by these lifelike machines,

even if they know that they're not real.

Công nghệ rô bốt đang phát triển sau các bức tường của nhà máy.

Nó xâm nhập vào nơi làm việc, các hộ gia đình.

Now, we're headed towards a world where robots are everywhere.

Và khi những cỗ máy có thể cảm nhận và tự đưa ra các quyết định cũng như học hỏi

Robotic technology is moving out from behind factory walls.

It's entering workplaces, households.

cách đi vào những không gian chung này,

And as these machines that can sense and make autonomous decisions and learn

tôi nghĩ rằng sự tương đồng nhất mà chúng ta có

là mối quan hệ của ta với động vật.

Hàng ngàn năm trước, chúng ta bắt đầu thuần hóa động vật,

enter into these shared spaces,

I think that maybe the best analogy we have for this

và chúng ta huấn luyện chúng để làm việc cũng như là vũ khí và để bầu bạn.

is our relationship with animals.

Thousands of years ago, we started to domesticate animals,

Và trong suốt lịch sử, ta đã đối xử với một số động vật như công cụ hoặc sản phẩm,

and we trained them for work and weaponry and companionship.

và những động vật khác, ta đối xử tử tế

và ta đã tạo một vị trí xã hội như người bạn đồng hành của ta.

And throughout history, we've treated some animals like tools or like products,

Tôi nghĩ rằng thật hợp lý khi ta có thể tích hợp rô bốt theo những cách tương tự.

and other animals, we've treated with kindness

and we've given a place in society as our companions.

Và chắc chắn, động vật đang sống.

I think it's plausible we might start to integrate robots in similar ways.

Rô bốt thì không.

Và kể bạn nghe, khi làm việc với các nhà tạo ra rô bốt,

And sure, animals are alive.

chúng ta còn khá xa mới có thể tạo rô bốt có thể cảm nhận được mọi thứ.

Robots are not.

Nhưng ta cảm nhận cho chúng,

And I can tell you, from working with roboticists,

và điều đó là vấn đề,

that we're pretty far away from developing robots that can feel anything.

bởi vì nếu chúng ta cố gắng tích hợp rô bốt vào những không gian chung này,

chúng ta cần hiểu rằng mọi người sẽ đối xử với chúng khác các thiết bị khác

But we feel for them,

and that matters,

và trong một số trường hợp,

because if we're trying to integrate robots into these shared spaces,

chẳng hạn khi một người lính trở nên gắn bó tình cảm với người máy

we need to understand that people will treat them differently than other devices,

mà họ làm việc cùng,

có thể mọi thứ trở nên kém hiệu quả hoặc nguy hiểm.

and that in some cases,

for example, the case of a soldier who becomes emotionally attached

Nhưng trong những trường hợp khác,

to the robot that they work with,

sẽ hữu ích khi thúc đẩy mối liên hệ cảm xúc với rô bốt.

that can be anything from inefficient to dangerous.

Chúng tôi đã thấy một số trường hợp tuyệt vời,

chẳng hạn như rô bốt làm việc với trẻ tự kỷ

But in other cases, it can actually be useful

to foster this emotional connection to robots.

để thu hút chúng theo những cách mà chúng ta chưa từng thấy trước đây

We're already seeing some great use cases,

hoặc rô bốt làm việc với giáo viên để thu hút trẻ học tập với kết quả mới.

for example, robots working with autistic children

to engage them in ways that we haven't seen previously,

Và nó không chỉ cho trẻ em.

Các nghiên cứu ban đầu cho thấy rô bốt giúp cho bác sĩ và bệnh nhân

or robots working with teachers to engage kids in learning with new results.

ở các cơ sở y tế.

And it's not just for kids.

Đây là rô bốt hải cẩu con PARO.

Nó được sử dụng ở các viện dưỡng lão và với bệnh nhân sa sút trí tuệ.

Early studies show that robots can help doctors and patients

in health care settings.

Nó đã ở đó một khoảng thời gian.

Và tôi nhớ cách đây nhiều năm, tôi có mặt tại một bữa tiệc

This is the PARO baby seal robot.

It's used in nursing homes and with dementia patients.

và kể cho ai đó nghe về con robot này,

và câu trả lời của cô ấy là

It's been around for a while.

“Ôi trời.

And I remember, years ago, being at a party

Thật kinh khủng.

and telling someone about this robot,

Tôi không thể tin ta đang gửi rô bốt cho con người thay vì sự chăm sóc.”

and her response was,

"Oh my gosh.

That's horrible.

Và đây là một phản ứng phổ biến,

và tôi nghĩ nó hoàn toàn chính xác,

I can't believe we're giving people robots instead of human care."

bởi vì điều đó sẽ rất khủng khiếp.

Trường hợp này, nó không phải thứ mà rô bốt thay thế.

And this is a really common response,

and I think it's absolutely correct,

Điều mà rô bốt này thay thế là liệu pháp động vật

because that would be terrible.

trong bối cảnh chúng ta không thể sử dụng động vật thật

But in this case, it's not what this robot replaces.

ta có thể dùng rô bốt,

bởi vì mọi người sẽ luôn coi chúng giống như một con vật hơn là một thiết bị.

What this robot replaces is animal therapy

in contexts where we can't use real animals

but we can use robots,

Thừa nhận mối liên hệ này với rô bốt

because people will consistently treat them more like an animal than a device.

giúp chúng ta lường trước những thách thức

khi các thiết bị này ở các lĩnh vực quen thuộc trong cuộc sống của ta.

Acknowledging this emotional connection to robots

Ví dụ, có ổn không nếu rô bốt gấu bông của con bạn

can also help us anticipate challenges

as these devices move into more intimate areas of people's lives.

ghi lại các cuộc trò chuyện riêng tư?

Có ổn không nếu robot tình dục của bạn giao dịch mua hàng trong ứng dụng?

For example, is it OK if your child's teddy bear robot

(Cười)

Bởi vì robot cùng với chủ nghĩa tư bản tương đương

records private conversations?

Is it OK if your sex robot has compelling in-app purchases?

với các câu hỏi xung quanh quyền riêng tư và sự bảo vệ người tiêu dùng.

(Laughter)

Và không phải chỉ những lý do đó

Because robots plus capitalism

khiến hành vi của ta với những cỗ máy này là vấn đề.

equals questions around consumer protection and privacy.

Vài năm sau trải nghiệm đầu tiên mà tôi có được

And those aren't the only reasons

với chú rô bốt khủng long con này,

that our behavior around these machines could matter.

tôi tổ chức workshop với người bạn Hannes Gassert.

A few years after that first initial experience I had

Và chúng tôi đã lấy 5 con rô bốt khủng long con này

và đưa chúng cho 5 đội.

with this baby dinosaur robot,

Và chúng tôi để họ đặt tên chúng

I did a workshop with my friend Hannes Gassert.

và chơi với chúng và tương tác với chúng trong khoảng một giờ.

And we took five of these baby dinosaur robots

and we gave them to five teams of people.

Và chúng tôi cho một cái búa, một cái rìu nhỏ,

And we had them name them

chúng tôi bảo họ tra tấn và giết các con rô bốt.

and play with them and interact with them for about an hour.

(Cười)

And then we unveiled a hammer and a hatchet

Và điều này hóa ra kịch tính hơn một chút

and we told them to torture and kill the robots.

so với chúng tôi mong đợi,

bởi vì không ai trong số người tham gia thậm chí có thể tấn công

(Laughter)

các con rô bốt này,

And this turned out to be a little more dramatic

vì vậy chúng tôi phải ứng biến một chút, và tại một số thời điểm, chúng tôi đã nói,

than we expected it to be,

because none of the participants would even so much as strike

”Được rồi, bạn có thể cứu rô bốt đội mình nếu bạn tiêu diệt rô bốt của đội khác.”

these baby dinosaur robots,

so we had to improvise a little, and at some point, we said,

(Cười)

Và thậm chí nó không ổn. Họ không thể làm vậy.

"OK, you can save your team's robot if you destroy another team's robot."

Sau cùng, chúng tôi nói,

“Chúng tôi sẽ tiêu diệt tất cả các rô bốt

trừ khi ai đó bẫy một trong số chúng.”

(Laughter)

And even that didn't work. They couldn't do it.

Và anh chàng này đứng dậy, anh ta cầm lấy cái rìu,

So finally, we said,

"We're going to destroy all of the robots

và cả khán phòng nhăn mặt khi anh ta đặt cái chốt xuống

unless someone takes a hatchet to one of them."

trên cổ con rô bốt,

And this guy stood up, and he took the hatchet,

và có khoảnh khắc im lặng nửa đùa, nửa thật này trong phòng

and the whole room winced as he brought the hatchet down

on the robot's neck,

dành cho chú rô bốt bị ngã này.

and there was this half-joking, half-serious moment of silence in the room

(Cười)

Vì vậy, đó là một trải nghiệm thực sự thú vị.

Rõ ràng, đó không phải là nghiên cứu có kiểm soát,

for this fallen robot.

nhưng nó dẫn đến các nghiên cứu sau tôi thực hiện tại MIT

(Laughter)

So that was a really interesting experience.

với Palash Nandy và Cynthia Breazeal,

Now, it wasn't a controlled study, obviously,

nơi chúng tôi cho mọi người vào phòng thí nghiệm và đập những HEXBUG

but it did lead to some later research that I did at MIT

đang di chuyển một cách thực sự và sống động, như côn trùng.

with Palash Nandy and Cynthia Breazeal,

Vì vậy, thay vì chọn cái gì đó dễ thương mà mọi người bị thu hút,

where we had people come into the lab and smash these HEXBUGs

chúng tôi đã chọn một cái gì đó cơ bản hơn

that move around in a really lifelike way, like insects.

và những gì chúng tôi nhận thấy là những người có khả năng đồng cảm cao

So instead of choosing something cute that people are drawn to,

sẽ do dự nhiều hơn khi đánh HEXBUGS.

we chose something more basic,

Đây chỉ là một nghiên cứu nhỏ,

and what we found was that high-empathy people

nhưng nó là một phần của nhóm nghiên cứu lớn hơn

đang bắt đầu chỉ ra rằng có thể có mối liên hệ

would hesitate more to hit the HEXBUGS.

giữa xu hướng đồng cảm của con người

Now this is just a little study,

và hành vi của họ xung quanh rô bốt.

but it's part of a larger body of research

that is starting to indicate that there may be a connection

Nhưng câu hỏi của tôi cho kỷ nguyên tương tác sắp tới giữa người và máy

between people's tendencies for empathy

không phải là: “Chúng ta có đồng cảm với rô bốt không?”

and their behavior around robots.

Mà là: “Rô bốt có thể thay đổi sự đồng cảm của người không?”

But my question for the coming era of human-robot interaction

is not: "Do we empathize with robots?"

Chẳng hạn, có lý do gì

để ngăn con bạn đá một con chó rô bốt,

It's: "Can robots change people's empathy?"

không chỉ vì tôn trọng tài sản

Is there reason to, for example,

mà vì đứa trẻ có nhiều khả năng sẽ đá một con chó thật hơn?

prevent your child from kicking a robotic dog,

Và một lần nữa, không chỉ trẻ em.

not just out of respect for property,

Đây là vấn đề về trò chơi điện tử bạo lực, nhưng nó ở một cấp độ hoàn toàn mới

but because the child might be more likely to kick a real dog?

vì theo bản năng tự nhiên mà chúng ta phản ứng mạnh mẽ hơn

And again, it's not just kids.

This is the violent video games question, but it's on a completely new level

so với hình ảnh trên màn hình.

because of this visceral physicality that we respond more intensely to

Khi chúng ta cư xử bạo lực với rô bốt,

cụ thể là rô bốt được thiết kế để bắt chước cuộc sống,

than to images on a screen.

thì đó là phương tiện lành mạnh cho hành vi bạo lực

When we behave violently towards robots,

hay là sự rèn luyện cơ bắp hung bạo của chúng ta?

specifically robots that are designed to mimic life,

is that a healthy outlet for violent behavior

Chúng ta không biết ...

Nhưng câu trả lời cho câu hỏi này có thể tác động đến hành vi của con người,

or is that training our cruelty muscles?

nó tiềm ẩn ảnh hưởng đến các chuẩn mực xã hội,

We don't know ...

nó có thể ảnh hưởng đến các quy tắc về những gì ta có thể và không thể làm

But the answer to this question has the potential to impact human behavior,

với một số rô bốt,

như luật đối xử tàn ác với động vật.

it has the potential to impact social norms,

Bởi vì, ngay cả khi rô bốt không thể cảm nhận,

it has the potential to inspire rules around what we can and can't do

hành động của ta đối với chúng có thể tác động đến ta.

with certain robots,

similar to our animal cruelty laws.

Và bất kể chúng ta có thay đổi các quy tắc của mình không,

Because even if robots can't feel,

our behavior towards them might matter for us.

rô bốt có thể giúp chúng ta hiểu biết mới về bản thân.

And regardless of whether we end up changing our rules,

Hầu hết những gì tôi học được trong 10 năm qua

robots might be able to help us come to a new understanding of ourselves.

không phải là về công nghệ.

Đó là về tâm lý con người, sự đồng cảm

và cách chúng ta tương tác với người khác.

Most of what I've learned over the past 10 years

has not been about technology at all.

Bởi vì khi một đứa trẻ tử tế với Roomba,

It's been about human psychology

khi một người lính cố gắng cứu một con rô bốt trên chiến trường

and empathy and how we relate to others.

hoặc khi một nhóm người từ chối làm hại một con khủng long con rô bốt

Because when a child is kind to a Roomba,

when a soldier tries to save a robot on the battlefield,

những con rô bốt đó không chỉ là động cơ, bánh răng và thuật toán.

or when a group of people refuses to harm a robotic baby dinosaur,

Chúng phản chiếu hình ảnh chúng ta.

Cảm ơn các bạn.

those robots aren't just motors and gears and algorithms.

(Vỗ tay)

They're reflections of our own humanity.

Thank you.

(Applause)