Why we have an emotional connection to robots | Kate Darling

Translator: Joseph Geni Reviewer: Krystian Aparta

翻訳: Yasushi Aoki 校正: Kazunori Akashi

There was a day, about 10 years ago,

10年くらい前のことですが

when I asked a friend to hold a baby dinosaur robot upside down.

赤ちゃん恐竜ロボットを 逆さに持ってみてと友達に言ったんです

It was this toy called a Pleo that I had ordered,

「プレオ」というオモチャを手に入れ はしゃいでいました

and I was really excited about it because I've always loved robots.

ロボットは昔から 大好きでしたので

And this one has really cool technical features.

このロボットには いろいろすごい機能があり

It had motors and touch sensors

モーターや 接触センサーや

and it had an infrared camera.

赤外線カメラなんかに加え

And one of the things it had was a tilt sensor,

傾斜センサーが入っていて

so it knew what direction it was facing.

体の向きが 分かるようになっていました

And when you held it upside down,

そして逆さにしてやると

it would start to cry.

泣き出すんです

And I thought this was super cool, so I was showing it off to my friend,

これはすごいと感心し 友達にも見せてやろうと思ったわけです

and I said, "Oh, hold it up by the tail. See what it does."

「ちょっと これの尻尾を持ってみて どうなるか」

So we're watching the theatrics of this robot

そして このロボットが もがき泣く姿を見ていましたが

struggle and cry out.

And after a few seconds,

少しして なんか嫌な気がしてきて

it starts to bother me a little,

and I said, "OK, that's enough now.

「ねえ もういいでしょう 下に置いてあげて」と言い

Let's put him back down."

And then I pet the robot to make it stop crying.

ロボットが泣き止むように 撫でてやりました

And that was kind of a weird experience for me.

私にとって 奇妙な体験でした

For one thing, I wasn't the most maternal person at the time.

当時の私は そんなに母性的な 人間ではありませんでしたから

Although since then I've become a mother, nine months ago,

でも９ヶ月前に 私も母親になって

and I've learned that babies also squirm when you hold them upside down.

逆さに持つと 赤ん坊も もがきまわるのが分かりました

(Laughter)

(笑)

But my response to this robot was also interesting

このロボットに対する 自分の反応が興味深かったのは

because I knew exactly how this machine worked,

その機械的な仕組みは 理解していたのに

and yet I still felt compelled to be kind to it.

優しくしてあげなきゃと 感じたからです

And that observation sparked a curiosity

その時の観察が

この10年追い続けてきた 好奇心に火を付けたのです

that I've spent the past decade pursuing.

Why did I comfort this robot?

なぜ自分はこのロボットを いたわったのか？

And one of the things I discovered was that my treatment of this machine

ひとつ分かったのは このロボットへの対応というのは

was more than just an awkward moment in my living room,

うちの居間で起きた 気まずい瞬間にとどまるものではなく

that in a world where we're increasingly integrating robots into our lives,

生活の中にロボットがますます 組み込まれつつある世の中で

このような感覚は 様々な結果を もたらしうるということでした

an instinct like that might actually have consequences,

because the first thing that I discovered is that it's not just me.

私だけじゃないことが 分かったんです

In 2007, the Washington Post reported that the United States military

2007年にワシントンポスト紙が

米軍の実験している 地雷処理ロボットについて報じました

was testing this robot that defused land mines.

And the way it worked was it was shaped like a stick insect

それはナナフシみたいな 姿をしていて

and it would walk around a minefield on its legs,

脚を使って地雷原を歩き回り

and every time it stepped on a mine, one of the legs would blow up,

地雷を踏むごとに 脚の１つが吹き飛ばされますが

and it would continue on the other legs to blow up more mines.

歩き続けて地雷を爆発させていく というものでした

And the colonel who was in charge of this testing exercise

責任者だった大佐は

実験を中止させました

ends up calling it off,

because, he says, it's too inhumane

傷ついたロボットが地雷原を 這い回るのを見ているのは非人間的だからと

to watch this damaged robot drag itself along the minefield.

Now, what would cause a hardened military officer

筋金入りの軍人や

and someone like myself

私みたいな人間に

to have this response to robots?

そういう反応をさせたものは 何だったのか？

Well, of course, we're primed by science fiction and pop culture

SFや大衆文化によって

こういったものを擬人化することに 馴れているというのもありますが

to really want to personify these things,

but it goes a little bit deeper than that.

これはもっと根が深いもので

It turns out that we're biologically hardwired to project intent and life

生物学的に私達は 自律的に動くものに対し

onto any movement in our physical space that seems autonomous to us.

意思や生命を見ようと するようにできているんです

So people will treat all sorts of robots like they're alive.

人がロボットを生き物のように 扱うのはそのためです

These bomb-disposal units get names.

こういう爆発物処理ロボットに 名前が付けられ

They get medals of honor.

勲章が授与され

They've had funerals for them with gun salutes.

礼砲付きの葬礼が 行われたりします

And research shows that we do this even with very simple household robots,

相手が単純な家庭用ロボットでも 人はそう反応することが分かっています

like the Roomba vacuum cleaner.

掃除ロボットの ルンバでさえも

(Laughter)

(笑)

It's just a disc that roams around your floor to clean it,

ただの円盤形をしていて 床の上を動き回って掃除をしますが

but just the fact it's moving around on its own

自分で動き回る というところが

will cause people to name the Roomba

持ち主に名前を付けさせたり

and feel bad for the Roomba when it gets stuck under the couch.

ソファの下に引っかかっているのを 可愛そうと思わせたりするんです

(Laughter)

(笑)

And we can design robots specifically to evoke this response,

そういう反応を引き起こすべく ロボットをデザインすることもできます

using eyes and faces or movements

目や顔を付けたり

人が無意識に 感情と結び付けるような

that people automatically, subconsciously associate

with states of mind.

動作をさせることによって

And there's an entire body of research called human-robot interaction

そういった現象について研究する

「ヒューマン-ロボット・インタラクション」 という分野もあります

that really shows how well this works.

So for example, researchers at Stanford University found out

たとえばスタンフォード大の研究者が 発見したことですが

that it makes people really uncomfortable

ロボットであっても 陰部に触れるよう言われると

when you ask them to touch a robot's private parts.

人はすごく気まずく 感じるんです

(Laughter)

(笑)

So from this, but from many other studies,

多くの研究から

we know, we know that people respond to the cues given to them

こういう生き物のように 見えるロボットが出す合図に対し

by these lifelike machines,

人間は作り物だと 知りながら

even if they know that they're not real.

反応することが 分かっています

Now, we're headed towards a world where robots are everywhere.

私達はロボットが至るところに いるような世界へと向かっています

Robotic technology is moving out from behind factory walls.

ロボット技術は もはや工場の中だけのものではなく

It's entering workplaces, households.

オフィスや家庭へと 進出しています

And as these machines that can sense and make autonomous decisions and learn

そういった場所へと 入ってくる

知覚し 自律的に決断し 学ぶことのできる機械に対して

enter into these shared spaces,

I think that maybe the best analogy we have for this

最善のアナロジーとなるのは

is our relationship with animals.

動物との関係かもしれません

Thousands of years ago, we started to domesticate animals,

数千年前に人類は 動物を家畜化するようになり

and we trained them for work and weaponry and companionship.

労働や戦争のため また遊び相手として 飼い慣らしてきました

And throughout history, we've treated some animals like tools or like products,

歴史を通して ある動物は道具や商品として扱われ

and other animals, we've treated with kindness

ある動物は 思いやりをもって扱われ

and we've given a place in society as our companions.

社会の中で 人間の仲間としての 位置を与えられました

I think it's plausible we might start to integrate robots in similar ways.

ロボットもまた同じように取り込まれて いくというのは ありそうなことです

And sure, animals are alive.

もちろん動物は生きており

Robots are not.

ロボットは生きてはいません

And I can tell you, from working with roboticists,

ロボット研究者と一緒に 働いている経験から言えますが

that we're pretty far away from developing robots that can feel anything.

感情を持つロボットができるのは 随分先の話です

But we feel for them,

でも人間はロボットに同情し

and that matters,

そこが重要なんです

because if we're trying to integrate robots into these shared spaces,

ロボットを社会に 取り込んでいくのであれば

we need to understand that people will treat them differently than other devices,

人はロボットに対し

他の機械とは違った扱いをすることを 理解しておく必要があります

and that in some cases,

for example, the case of a soldier who becomes emotionally attached

たとえば兵士が 一緒に働くロボットに

to the robot that they work with,

愛着を抱く場合などには

that can be anything from inefficient to dangerous.

非効率さや危険をもたらす 可能性もあります

But in other cases, it can actually be useful

でも他の場合には

ロボットへの感情的な繋がりを 育むことが 有用であり得ます

to foster this emotional connection to robots.

We're already seeing some great use cases,

すでに素晴らしい実例が 知られています

for example, robots working with autistic children

たとえば自閉症の子供が ロボット相手に

to engage them in ways that we haven't seen previously,

これまで見られなかった 反応を見せるとか

or robots working with teachers to engage kids in learning with new results.

教師がロボットを使い 子供の学習で 新たな結果が得られているとか

And it's not just for kids.

またこれは 子供に限った話ではなく

Early studies show that robots can help doctors and patients

医療現場でロボットが

医師や患者の助けに なり得ることが示されています

in health care settings.

This is the PARO baby seal robot.

これは「パロ」という 赤ちゃんアザラシのロボットで

It's used in nursing homes and with dementia patients.

養護施設や認知症患者のケアに 使われていて

It's been around for a while.

結構前からあるものです

And I remember, years ago, being at a party

よく覚えていますが

何年も前にパーティーで このロボットの話をしたところ

and telling someone about this robot,

相手がこう言ったんです

and her response was,

"Oh my gosh.

「それひどくないですか

That's horrible.

人間じゃなくロボットに 世話をさせるなんて信じられない」

I can't believe we're giving people robots instead of human care."

And this is a really common response,

これは ごく一般的な反応で

and I think it's absolutely correct,

まったくもって 正しいと思います

because that would be terrible.

もしそうなら 酷い話ですから

But in this case, it's not what this robot replaces.

でもこの場合 人間がロボットに 置き換わるわけではありません

What this robot replaces is animal therapy

置き換わるのは 動物介在療法で

in contexts where we can't use real animals

本物の動物が 使えない場合に

ロボットを使うんです

but we can use robots,

because people will consistently treat them more like an animal than a device.

人はロボットを機械よりは 動物のように扱いますから

Acknowledging this emotional connection to robots

このロボットに対する感情的な 繋がりが分かっていれば

can also help us anticipate challenges

ロボットがより身近な存在に なったときに起きる問題も

as these devices move into more intimate areas of people's lives.

予期できるように なるでしょう

For example, is it OK if your child's teddy bear robot

たとえば子供の テディベアロボットが

私的な会話を録音するのは 良いのかとか

records private conversations?

Is it OK if your sex robot has compelling in-app purchases?

セックスロボットがApp内課金を促すのを 認めて良いのかとか

(Laughter)

(笑)

Because robots plus capitalism

ロボットと資本主義の 組み合わせには

equals questions around consumer protection and privacy.

消費者保護やプライバシーの問題が からんできますから

And those aren't the only reasons

でも機械に対する人間の振る舞いが 問題になりうるのは

that our behavior around these machines could matter.

そういう理由ばかり ではありません

A few years after that first initial experience I had

あの赤ちゃん恐竜ロボットでの

with this baby dinosaur robot,

最初の経験から数年後に

I did a workshop with my friend Hannes Gassert.

私は友人のハネス・ガッサートと ワークショップを開きました

And we took five of these baby dinosaur robots

赤ちゃん恐竜ロボットを ５体用意し

and we gave them to five teams of people.

それぞれ５つのグループに渡し

And we had them name them

名前を付けて

and play with them and interact with them for about an hour.

１時間くらい それで遊んでもらいました

And then we unveiled a hammer and a hatchet

それからハンマーと 斧を出して

and we told them to torture and kill the robots.

ロボットを痛め付けて 殺すように言いました

(Laughter)

(笑)

And this turned out to be a little more dramatic

これは予期していたよりも

少しばかりショックを与えたようで

than we expected it to be,

because none of the participants would even so much as strike

参加者の誰も

赤ちゃん恐竜ロボットを 叩こうとさえしません

these baby dinosaur robots,

so we had to improvise a little, and at some point, we said,

それでもっと後押ししなければ ならなくなって 言いました

"OK, you can save your team's robot if you destroy another team's robot."

「他のチームのロボットを壊せば 自分のチームのロボットは壊さなくていいです」

(Laughter)

(笑)

And even that didn't work. They couldn't do it.

それでもうまくいかず みんな手をこまねいています

So finally, we said,

最後には こう言いました

"We're going to destroy all of the robots

「誰かが斧を手に取って どれか１つに振り下ろさないなら

unless someone takes a hatchet to one of them."

ロボットをみんな壊します」

And this guy stood up, and he took the hatchet,

それで１人が立ち上がって 斧を手にし

and the whole room winced as he brought the hatchet down

ロボットの首に 斧を振り下ろすと

on the robot's neck,

部屋にいたみんなが ギクッとしました

and there was this half-joking, half-serious moment of silence in the room

そして半分冗談 半分真剣な しばしの沈黙が

倒れたロボットに 捧げられました

for this fallen robot.

(Laughter)

(笑)

So that was a really interesting experience.

すごく面白い経験でした

Now, it wasn't a controlled study, obviously,

これは対照試験では ありませんでしたが

but it did lead to some later research that I did at MIT

後に私がパラッシュ・ナンディーと シンシア・ブリジールと一緒に

with Palash Nandy and Cynthia Breazeal,

MITで行った研究に 繋がりました

where we had people come into the lab and smash these HEXBUGs

実験室に来てもらった人たちに この昆虫みたいな

that move around in a really lifelike way, like insects.

生き物のように動き回る HEXBUGを潰してもらいました

So instead of choosing something cute that people are drawn to,

可愛くて惹かれる ようなものではなく

we chose something more basic,

もっと簡素なロボットを 使ったんですが

and what we found was that high-empathy people

共感力の強い人ほど HEXBUGを潰すことに

would hesitate more to hit the HEXBUGS.

ためらいを感じることが 分かりました

Now this is just a little study,

これはちっぽけな研究ですが

but it's part of a larger body of research

ずっと大きな研究領域の一部で

that is starting to indicate that there may be a connection

人の共感傾向とロボットに対する 振る舞いの間には

between people's tendencies for empathy

and their behavior around robots.

繋がりがあることが 示されつつあります

But my question for the coming era of human-robot interaction

来るべき人とロボット共生の 時代への疑問は

is not: "Do we empathize with robots?"

「人はロボットに共感するのか？」 ではなく

It's: "Can robots change people's empathy?"

「ロボットは人の共感性を変えられるのか？」 ということです

Is there reason to, for example,

たとえばロボット犬を 蹴らないよう

prevent your child from kicking a robotic dog,

子供をしつけることに 効果はあるのか—

not just out of respect for property,

物を大事にする という点だけでなく

but because the child might be more likely to kick a real dog?

本物の犬を蹴るような人間に ならないようにするために

And again, it's not just kids.

これも子供に限ったこと ではありません

This is the violent video games question, but it's on a completely new level

暴力的ゲームの問題と同じに聞こえますが まったく別次元の話で

because of this visceral physicality that we respond more intensely to

画面上のイメージよりも 形あるものに対して

私たちはより強く 反応するからです

than to images on a screen.

When we behave violently towards robots,

特に生き物に似せてデザインされた ロボットに対して

specifically robots that are designed to mimic life,

暴力的に振る舞うのは

is that a healthy outlet for violent behavior

暴力性に対する 健全なはけ口になるのか

or is that training our cruelty muscles?

それとも暴力性を 強めることになるのか？

We don't know ...

分かりません

But the answer to this question has the potential to impact human behavior,

でもこの問いへの答えは

人間の行動や社会規範に 影響する可能性があり

it has the potential to impact social norms,

it has the potential to inspire rules around what we can and can't do

ロボットに対して何ができ 何ができないかという

ルールに繋がる 可能性があります

with certain robots,

similar to our animal cruelty laws.

ちょうど動物虐待防止法のように—

Because even if robots can't feel,

ロボットは何も感じないとしても

ロボットに対する振る舞いは 私たち自身に影響するかもしれないんです

our behavior towards them might matter for us.

And regardless of whether we end up changing our rules,

そして法律を変えることに なるかどうかにかかわらず

robots might be able to help us come to a new understanding of ourselves.

ロボットは人間についての 新たな理解をもたらすかもしれません

Most of what I've learned over the past 10 years

この10年で私の 学んできたことの多くは

has not been about technology at all.

テクノロジーに 関することではなく

It's been about human psychology

人間の心理 共感 他人との関わり方についてです

and empathy and how we relate to others.

Because when a child is kind to a Roomba,

子供がルンバに対して 優しく接するとき

when a soldier tries to save a robot on the battlefield,

兵士が戦場でロボットを 救おうとするとき

or when a group of people refuses to harm a robotic baby dinosaur,

人々が赤ちゃん恐竜ロボットを 傷つけることを拒むとき

those robots aren't just motors and gears and algorithms.

ロボットはモーターと歯車と プログラムだけのものではありません

They're reflections of our own humanity.

私達自身の人間性の 反映なのです

Thank you.

ありがとうございました

(Applause)

(拍手)