Why we have an emotional connection to robots | Kate Darling

Translator: Joseph Geni Reviewer: Krystian Aparta

Translator: Andi Tenri Wahyuni Reviewer: Azfa Adid

Suatu hari, sekitar 10 tahun yang lalu,

There was a day, about 10 years ago,

when I asked a friend to hold a baby dinosaur robot upside down.

saya meminta teman untuk memegang robot bayi dinosaurus secara terbalik.

It was this toy called a Pleo that I had ordered,

Robot ini namanya Pleo. Saya yang memesannya.

and I was really excited about it because I've always loved robots.

Saya begitu senang karena saya suka robot.

And this one has really cool technical features.

Dan robot ini punya fitur teknis keren.

It had motors and touch sensors

Robot ini punya sensor gerak dan sentuh

and it had an infrared camera.

juga kamera infra merah.

And one of the things it had was a tilt sensor,

Dan salah satu fitur adalah sensor miring,

so it knew what direction it was facing.

jadi dia tahu ke mana dia menghadap.

And when you held it upside down,

Dan kalau dipegang terbalik,

it would start to cry.

dia akan menangis.

And I thought this was super cool, so I was showing it off to my friend,

Saya rasa itu sangat keren, jadi saya tunjukkan ke teman saya,

and I said, "Oh, hold it up by the tail. See what it does."

saya bilang, "pegang ekornya. Lihat apa yang dia lakukan."

So we're watching the theatrics of this robot

Lalu kita memerhatikan aksi dramatis robot ini

struggle and cry out.

meronta dan menangis.

And after a few seconds,

Setelah beberapa detik,

it starts to bother me a little,

saya mulai terganggu,

and I said, "OK, that's enough now.

lalu saya bilang, "Oke, sudah cukup.

Let's put him back down."

Mari letakkan dia kembali."

And then I pet the robot to make it stop crying.

Lalu saya membelai robotnya agar berhenti menangis.

And that was kind of a weird experience for me.

Itu pengalaman aneh bagi saya.

For one thing, I wasn't the most maternal person at the time.

Karena satu hal, saat itu saya bukan orang yang keibuan.

Although since then I've become a mother, nine months ago,

Walau kemudian saya jadi ibu, 9 bulan lalu,

and I've learned that babies also squirm when you hold them upside down.

saya akhirnya tahu bayi pun meronta kalau dipegang terbalik.

(Laughter)

(Suara tawa)

But my response to this robot was also interesting

Tapi respons saya ke robot ini juga menarik

because I knew exactly how this machine worked,

sebab saya tahu pasti cara kerja mesin ini,

and yet I still felt compelled to be kind to it.

tapi saya merasa harus tetap bersikap baik padanya.

And that observation sparked a curiosity

Pengamatan itu mencetuskan rasa penasaran.

that I've spent the past decade pursuing.

Saya menghabiskan 10 tahun terakhir mencari jawabannya.

Why did I comfort this robot?

Kenapa saya menenangkan robot ini?

And one of the things I discovered was that my treatment of this machine

Salah satu hal yang saya dapati adalah perlakuan saya pada mesin ini

was more than just an awkward moment in my living room,

lebih dari sekadar momen aneh di ruang tamu saya,

that in a world where we're increasingly integrating robots into our lives,

di dunia di mana kita semakin mengintegrasikan robot dalam kehidupan,

an instinct like that might actually have consequences,

naluri semacam itu mungkin saja punya konsekuensi,

because the first thing that I discovered is that it's not just me.

sebab hal pertama yang saya dapati adalah bukan hanya saya

In 2007, the Washington Post reported that the United States military

Di tahun 2007, Washington Post melaporkan bahwa militer Amerika Serikat

was testing this robot that defused land mines.

menguji robot penjinak ranjau darat.

And the way it worked was it was shaped like a stick insect

Robot ini bekerja dengan cara membentuk serangga tongkat

and it would walk around a minefield on its legs,

dan akan berjalan kaki mengelilingi ladang ranjau,

and every time it stepped on a mine, one of the legs would blow up,

dan setiap menginjak ranjau, kakinya akan meledak,

and it would continue on the other legs to blow up more mines.

dia menggunakan kaki lain untuk meledakkan lebih banyak ranjau.

And the colonel who was in charge of this testing exercise

Kolonel yang bertanggung jawab pada latihan percobaan ini

ends up calling it off,

akhirnya menghentikannya,

because, he says, it's too inhumane

sebab sangat tidak manusiawi

to watch this damaged robot drag itself along the minefield.

melihat robot rusak ini menyeret dirinya di sepanjang ladang ranjau.

Now, what would cause a hardened military officer

Sekarang, apa yang menyebabkan seorang perwira militer tangguh

and someone like myself

dan orang seperti saya

to have this response to robots?

punya rasa seperti itu pada robot?

Well, of course, we're primed by science fiction and pop culture

Tentu saja, kita dibekali fiksi ilmiah dan budaya pop

to really want to personify these things,

untuk mempersonifikasi hal seperti itu,

but it goes a little bit deeper than that.

tapi ini sedikit lebih dalam.

It turns out that we're biologically hardwired to project intent and life

Ternyata secara biologis kita terdorong untuk menyoroti hasrat dan kehidupan

onto any movement in our physical space that seems autonomous to us.

ke tiap gerakan di ruang fisik yang tampak otonom bagi kita.

So people will treat all sorts of robots like they're alive.

Jadi orang akan memperlakukan segala macam robot seakan mereka hidup.

These bomb-disposal units get names.

Unit-unit pembasmi bom ini punya nama

They get medals of honor.

dan mendapatkan medali kehormatan,

They've had funerals for them with gun salutes.

juga dimakamkan dengan hormat senjata.

And research shows that we do this even with very simple household robots,

Penelitian menunjukkan, bahkan robot sederhana di rumah pun bisa,

like the Roomba vacuum cleaner.

contohnya: penyedot debu Roomba.

(Laughter)

(Suara tawa)

It's just a disc that roams around your floor to clean it,

Itu cuma cakram yang menelusuri lantai untuk bersih-bersih,

but just the fact it's moving around on its own

tapi karena dia bergerak sendiri,

will cause people to name the Roomba

orang memanggilnya Roomba

and feel bad for the Roomba when it gets stuck under the couch.

dan kasihan ketika Roomba tersangkut di bawah sofa.

(Laughter)

(Suara tawa)

And we can design robots specifically to evoke this response,

Kita bisa mendesain robot khusus untuk membangkitkan respons ini,

using eyes and faces or movements

menggunakan mata dan wajah, ataupun gerakan

that people automatically, subconsciously associate

yang secara otomatis, orang akan menyatukannya

with states of mind.

dengan kondisi pikirannya.

And there's an entire body of research called human-robot interaction

Sebuah badan penelitian terpadu bernama interaksi manusia-robot

that really shows how well this works.

menunjukkan hebatnya cara kerja ini.

So for example, researchers at Stanford University found out

Contohnya, peneliti di Standford University menemukan,

that it makes people really uncomfortable

orang-orang merasa sangat tidak nyaman

when you ask them to touch a robot's private parts.

saat diminta untuk menyentuh bagian pribadi robot

(Laughter)

(Suara tawa)

So from this, but from many other studies,

Dari sini dan penelitian lainnya,

we know, we know that people respond to the cues given to them

kita tahu bahwa orang merespons isyarat yang diberikan

by these lifelike machines,

oleh mesin yang tampak hidup ini,

even if they know that they're not real.

meski mereka tahu mesinnya tidak hidup.

Now, we're headed towards a world where robots are everywhere.

Sekarang kita menuju dunia di mana robot ada di mana-mana.

Robotic technology is moving out from behind factory walls.

Teknologi robotik keluar dari balik dinding pabrik,

It's entering workplaces, households.

memasuki tempat kerja dan rumah.

And as these machines that can sense and make autonomous decisions and learn

Mesin-mesin ini mampu merasakan, membuat keputusan sendiri, dan belajar,

enter into these shared spaces,

masuk ke ruang bersama ini,

I think that maybe the best analogy we have for this

Saya pikir kita bisa menganalogikan itu

is our relationship with animals.

seperti hubungan kita dengan hewan.

Thousands of years ago, we started to domesticate animals,

Ribuan tahun lalu, kita mulai menjinakkan hewan,

and we trained them for work and weaponry and companionship.

melatihnya untuk jadi pekerja, senjata, dan persahabatan.

And throughout history, we've treated some animals like tools or like products,

Sepanjang sejarah, kita memperlakukan sebagian hewan seperti alat atau produk,

and other animals, we've treated with kindness

kita sayangi sebagian hewan lainnya.

and we've given a place in society as our companions.

Kita menganggapnya teman dalam bermasyarakat.

I think it's plausible we might start to integrate robots in similar ways.

Saya pikir masuk akal bila kita mulai memperlakukan robot dengan cara yang sama.

And sure, animals are alive.

Tentu saja, hewan adalah makhluk hidup.

Robots are not.

Tapi robot tidak.

And I can tell you, from working with roboticists,

Dari pengalaman kerja dengan ahli robot, saya beri tahu

that we're pretty far away from developing robots that can feel anything.

kita masih sangat jauh dari pengembangan robot yang bisa merasa.

But we feel for them,

Tapi kita ada rasa pada robot,

and that matters,

dan itulah yang penting,

because if we're trying to integrate robots into these shared spaces,

sebab kita berusaha mengintegrasikan robot ke ruang bersama ini,

we need to understand that people will treat them differently than other devices,

kita harus paham bahwa mereka akan diperlakukan berbeda dari alat lainnya,

and that in some cases,

dan dalam beberapa kasus,

for example, the case of a soldier who becomes emotionally attached

contohnya, kasus tentara yang jadi terikat secara emosional

to the robot that they work with,

dengan robot yang bekerja sama dengan dia,

that can be anything from inefficient to dangerous.

dan itu tidak efisien, bahkan berbahaya.

But in other cases, it can actually be useful

Tapi pada kasus lain, sangat berguna

to foster this emotional connection to robots.

jika kita memelihara keterkaitan emosi dengan robot.

We're already seeing some great use cases,

Kita sudah tahu beberapa contoh manfaatnya,

for example, robots working with autistic children

misalnya, robot bekerja dengan anak autis

to engage them in ways that we haven't seen previously,

untuk mengajak mereka dengan cara yang belum pernah kita tahu sebelumnya,

or robots working with teachers to engage kids in learning with new results.

atau robot bersama guru melibatkan anak dalam belajar dengan hasil baru

And it's not just for kids.

Robot tidak hanya untuk anak.

Early studies show that robots can help doctors and patients

Studi awal menunjukkan bahwa robot bisa membantu dokter dan pasien

in health care settings.

dalam mengatur kesehatan.

This is the PARO baby seal robot.

Inilah PARO, robot bayi anjing laut.

It's used in nursing homes and with dementia patients.

Dia digunakan di panti jompo dan untuk pasien demensia.

It's been around for a while.

Dia sudah lama digunakan.

And I remember, years ago, being at a party

Saya ingat, beberapa tahun lalu, saat di sebuah pesta,

and telling someone about this robot,

saya memberi tahu seseorang tentang robot ini,

and her response was,

dan respons dia,

"Oh my gosh.

"Ya ampun.

That's horrible.

Mengerikan.

I can't believe we're giving people robots instead of human care."

Sulit dipercaya, kita memberi mereka robot bukan perawatan manusia."

And this is a really common response,

Dan ini respons yang amat umum,

and I think it's absolutely correct,

dan saya pikir itu sangat tepat,

because that would be terrible.

karena itu bisa jadi mengerikan.

But in this case, it's not what this robot replaces.

Tapi kasus ini bukan soal apa yang robot gantikan.

What this robot replaces is animal therapy

Yang digantikan oleh robot ini adalah terapi hewan

in contexts where we can't use real animals

yang mana kita tidak bisa menggunakan hewan sungguhan,

but we can use robots,

tapi bisa dengan robot,

because people will consistently treat them more like an animal than a device.

sebab orang akan terus memperlakukan mereka seperti hewan bukannya alat.

Acknowledging this emotional connection to robots

Mengakui keterikatan emosional pada robot ini

can also help us anticipate challenges

membantu kita mengantisipasi tantangan

as these devices move into more intimate areas of people's lives.

saat semua alat ini masuk lebih dalam ke area intim kehidupan manusia.

For example, is it OK if your child's teddy bear robot

Contohnya, apakah boleh jika robot beruang teddy anak Anda

records private conversations?

merekam percakapan pribadi?

Is it OK if your sex robot has compelling in-app purchases?

Apakah boleh jika robot seks Anda menarik pembelian dalam aplikasi?

(Laughter)

(Suara tawa)

Because robots plus capitalism

Sebab robot plus kapitalisme

equals questions around consumer protection and privacy.

sama dengan pertanyaan soal perlindungan konsumen dan privasi.

And those aren't the only reasons

Dan itu bukan satu-satunya alasan

that our behavior around these machines could matter.

bahwa tingkah laku kita pada mesin ini memiliki arti.

A few years after that first initial experience I had

Beberapa tahun setelah pengalaman pertama saya

with this baby dinosaur robot,

dengan robot bayi dinosaurus ini,

I did a workshop with my friend Hannes Gassert.

saya dan rekan, Hannes Gassert menggelar lokakarya.

And we took five of these baby dinosaur robots

Kami mengambil lima robot bayi dinosaurus

and we gave them to five teams of people.

dan memberikannya ke lima tim.

And we had them name them

Dan kami menamai robot-robot itu

and play with them and interact with them for about an hour.

lalu bermain dan berinteraksi dengan mereka selama sekitar satu jam.

And then we unveiled a hammer and a hatchet

Lalu kami mengeluarkan palu dan kapak,

and we told them to torture and kill the robots.

meminta mereka menyiksa dan membunuh robot itu.

(Laughter)

(Suara tawa)

And this turned out to be a little more dramatic

Hal ini ternyata jadi agak lebih dramatis

than we expected it to be,

dari yang kami kira,

because none of the participants would even so much as strike

karena tidak satu pun peserta yang mau memukul

these baby dinosaur robots,

robot bayi dinosaurus ini,

so we had to improvise a little, and at some point, we said,

jadi kami harus sedikit mengubahnya, dan kami berkata,

"OK, you can save your team's robot if you destroy another team's robot."

"Baik, robot tim Anda bisa selamat asal Anda hancurkan robot tim lain"

(Laughter)

(Suara tawa)

And even that didn't work. They couldn't do it.

Tidak berhasil juga. Mereka tidak sanggup.

So finally, we said,

Akhirnya kami bilang,

"We're going to destroy all of the robots

"Kami akan hancurkan semua robot

unless someone takes a hatchet to one of them."

kecuali ada orang memukul salah satunya."

And this guy stood up, and he took the hatchet,

Dan pria ini berdiri lalu mengambil kapak,

and the whole room winced as he brought the hatchet down

dan seluruh ruangan meringis saat dia mengayunkan kapak

on the robot's neck,

ke leher robot itu,

and there was this half-joking, half-serious moment of silence in the room

lalu setengah bercanda, setengah serius mereka mengheningkan cipta

for this fallen robot.

untuk robot yang gugur ini.

(Laughter)

(Suara tawa)

So that was a really interesting experience.

Itu sungguh pengalaman yang menarik.

Now, it wasn't a controlled study, obviously,

Itu jelas bukan penelitian terkontrol,

but it did lead to some later research that I did at MIT

namun mengarah ke penelitian yang nanti saya lakukan di MIT

with Palash Nandy and Cynthia Breazeal,

bersama Palash Nandy dan Cynthia Breazeal,

where we had people come into the lab and smash these HEXBUGs

di mana kami meminta orang-orang ke laboratorium dan menghantam HEXBUG

that move around in a really lifelike way, like insects.

yang bergerak sungguh nyata, seperti serangga.

So instead of choosing something cute that people are drawn to,

Jadi dari pada memilih sesuatu yang imut sehingga orang tertarik,

we chose something more basic,

kami memilih sesuatu yang lebih dasar,

and what we found was that high-empathy people

dan yang kami temukan bahwa orang yang tinggi rasa empatinya

would hesitate more to hit the HEXBUGS.

akan lebih ragu untuk memukul HEXBUG.

Now this is just a little study,

Nah, ini cuma penelitian kecil,

but it's part of a larger body of research

tapi bagian dari penelitian yang lebih besar

that is starting to indicate that there may be a connection

yang mulai mengindikasikan bahwa mungkin ada hubungan

between people's tendencies for empathy

antara tendensi rasa empati seseorang

and their behavior around robots.

dan perilaku mereka terhadap robot.

But my question for the coming era of human-robot interaction

Tapi pertanyaan saya untuk era interaksi robot-manusia nanti

is not: "Do we empathize with robots?"

bukan: "Apakah kita berempati pada robot?"

It's: "Can robots change people's empathy?"

Tapi: "Dapatkah robot mengubah rasa empati manusia?"

Is there reason to, for example,

Misal, Apakah ada alasan untuk

prevent your child from kicking a robotic dog,

melarang anak Anda menendang robot anjing,

not just out of respect for property,

bukan karena menghargai barang,

but because the child might be more likely to kick a real dog?

tapi karena si anak seperti menendang anjing sungguhan?

And again, it's not just kids.

Dan lagi, bukan hanya anak-anak.

This is the violent video games question, but it's on a completely new level

Ini soal video game kekerasan, tapi di tingkat yang berbeda

because of this visceral physicality that we respond more intensely to

sebab karena nafsu mendalam ini kita lebih merespons

than to images on a screen.

pada gambar di layar.

When we behave violently towards robots,

Saat kita berperilaku kasar pada robot,

specifically robots that are designed to mimic life,

khususnya robot yang didesain meniru kehidupan,

is that a healthy outlet for violent behavior

apakah itu pelampiasan perilaku kasar yang sehat

or is that training our cruelty muscles?

atau malah melatih otot-otot kejam kita?

We don't know ...

Kita tidak tahu...

But the answer to this question has the potential to impact human behavior,

Tapi jawaban pertanyaan ini punya potensi yang berdampak pada perilaku manusia,

it has the potential to impact social norms,

punya potensi yang berdampak pada norma sosial,

it has the potential to inspire rules around what we can and can't do

punya potensi mengilhami peraturan tentang apa yang bisa dan tak bisa kita lakukan

with certain robots,

pada robot tertentu,

similar to our animal cruelty laws.

seperti undang-undang tentang hewan.

Because even if robots can't feel,

Sebab meski robot tidak bisa merasa,

our behavior towards them might matter for us.

perilaku kita pada mereka itu yang penting bagi kita.

And regardless of whether we end up changing our rules,

terlepas dari kita mengubah peraturannya atau tidak,

robots might be able to help us come to a new understanding of ourselves.

robot mungkin bisa membantu kita mendapatkan pemahaman baru atas diri kita.

Most of what I've learned over the past 10 years

Yang saya pelajari lebih dari 10 tahun

has not been about technology at all.

sebagian besar bukan soal teknologi.

It's been about human psychology

Namun soal psikologi manusia

and empathy and how we relate to others.

empati, dan bagaimana berhubungan dengan orang lain.

Because when a child is kind to a Roomba,

Sebab saat seorang anak bersikap baik pada Roomba,

when a soldier tries to save a robot on the battlefield,

saat seorang tentara berusaha menyelamatkan robot di medan perang,

or when a group of people refuses to harm a robotic baby dinosaur,

atau saat sekelompok orang menolak melukai robot bayi dinosaurus,

those robots aren't just motors and gears and algorithms.

robot-robot itu bukan sekadar motor, mesin, dan algoritma.

They're reflections of our own humanity.

Merekalah cerminan dari kemanusiaan kita.

Thank you.

Terima kasih.

(Applause)

(Suara tepuk tangan)