Why we have an emotional connection to robots | Kate Darling

Translator: Joseph Geni Reviewer: Krystian Aparta

Переводчик: Artem Savochkin Редактор: Alena Chernykh

There was a day, about 10 years ago,

В один прекрасный день около десяти лет назад

when I asked a friend to hold a baby dinosaur robot upside down.

я попросила друга подержать робота-детёныша динозавра вверх ногами.

It was this toy called a Pleo that I had ordered,

Игрушка, которую мне доставили, называлась Pleo,

and I was really excited about it because I've always loved robots.

и я была несказанно рада, ведь я всегда любила роботов.

And this one has really cool technical features.

А у этого ещё было множество классных фишек:

It had motors and touch sensors

моторы, датчики прикосновений,

and it had an infrared camera.

даже инфракрасная камера.

And one of the things it had was a tilt sensor,

Ещё у него был датчик уровня наклона,

so it knew what direction it was facing.

так что он знал, в какую сторону он направлен.

And when you held it upside down,

И когда его держали вверх ногами,

it would start to cry.

он начинал плакать.

And I thought this was super cool, so I was showing it off to my friend,

Я думала, что это очень круто, так что решила похвастаться другу,

and I said, "Oh, hold it up by the tail. See what it does."

и я сказала ему: «Подержи за хвост, посмотри, что он делает».

So we're watching the theatrics of this robot

И вот мы наблюдаем, как этот робот

struggle and cry out.

барахтается и кричит.

And after a few seconds,

Но через несколько секунд

it starts to bother me a little,

мне стало немного неуютно,

and I said, "OK, that's enough now.

и я сказала: «Так, хватит,

Let's put him back down."

давай перевернём его обратно».

And then I pet the robot to make it stop crying.

И я начала гладить робота, чтобы он перестал плакать.

And that was kind of a weird experience for me.

И это было для меня очень странно.

For one thing, I wasn't the most maternal person at the time.

Во-первых, у меня тогда не был особо развит материнский инстинкт.

Although since then I've become a mother, nine months ago,

Хотя я стала матерью девять месяцев назад

and I've learned that babies also squirm when you hold them upside down.

и успела узнать, что дети тоже извиваются, если держать их вверх ногами.

(Laughter)

(Смех)

But my response to this robot was also interesting

Но моя реакция на этого робота также была интересна,

because I knew exactly how this machine worked,

поскольку я точно знала, как эта машина работает,

and yet I still felt compelled to be kind to it.

но при этом всё равно чувствовала, что должна быть добра к ней.

And that observation sparked a curiosity

Это наблюдение разожгло моё любопытство,

that I've spent the past decade pursuing.

которое я удовлетворяла последние десять лет.

Why did I comfort this robot?

Почему я утешала этого робота?

And one of the things I discovered was that my treatment of this machine

И одним из моих открытий стало то, что моё обращение с этой машиной

was more than just an awkward moment in my living room,

было чем-то большим чем просто неловким моментом в моей гостиной,

that in a world where we're increasingly integrating robots into our lives,

что в мире, где мы всё чаще интегрируем роботов в нашу жизнь,

an instinct like that might actually have consequences,

у такого инстинкта могут быть последствия.

because the first thing that I discovered is that it's not just me.

Ведь, как оказалось, я не одна такая.

In 2007, the Washington Post reported that the United States military

В 2007 году газета The Washington Post опубликовала статью о том, что армия США

was testing this robot that defused land mines.

проводила испытания робота, который обезвреживал наземные мины.

And the way it worked was it was shaped like a stick insect

Работало это так: робот, похожий на насекомого-палочника,

and it would walk around a minefield on its legs,

ходил по минному полю.

and every time it stepped on a mine, one of the legs would blow up,

Каждый раз, когда он наступал на мину, одна из ног взрывалась

and it would continue on the other legs to blow up more mines.

и робот продолжал идти на оставшихся, взрывая всё больше мин.

And the colonel who was in charge of this testing exercise

И в конце концов полковник, ответственный за операцию,

ends up calling it off,

прекратил её,

because, he says, it's too inhumane

потому что, по его мнению, бесчеловечно смотреть,

to watch this damaged robot drag itself along the minefield.

как этот повреждённый робот тащится по минному полю.

Now, what would cause a hardened military officer

В чём же кроется причина того, что и закалённый военный офицер,

and someone like myself

и обычный человек, как я,

to have this response to robots?

так реагируют на роботов?

Well, of course, we're primed by science fiction and pop culture

Безусловно, на нас влияют научная фантастика и поп-культура,

to really want to personify these things,

вызывающие желание очеловечить роботов,

but it goes a little bit deeper than that.

но на самом деле есть более глубинные причины.

It turns out that we're biologically hardwired to project intent and life

Оказывается, в нас природой заложено видеть смысл и жизнь

onto any movement in our physical space that seems autonomous to us.

в любом движении, происходящем в пределах поля зрения и выглядящем самостоятельным.

So people will treat all sorts of robots like they're alive.

Поэтому люди обращаются с самыми разными роботами как с живыми.

These bomb-disposal units get names.

Этим роботам, обезвреживающим неразорвавшиеся бомбы, дают имена.

They get medals of honor.

Они получают почётные медали.

They've had funerals for them with gun salutes.

На их похоронах салютуют.

And research shows that we do this even with very simple household robots,

Исследования показали, что мы обращаемся так и с простыми бытовыми роботами,

like the Roomba vacuum cleaner.

такими, как роботы-пылесосы.

(Laughter)

(Смех)

It's just a disc that roams around your floor to clean it,

Это просто диск, катающийся по полу, делая его чище,

but just the fact it's moving around on its own

но простой факт того, что он двигается самостоятельно,

will cause people to name the Roomba

даёт повод людям дать ему имя

and feel bad for the Roomba when it gets stuck under the couch.

и жалеть беднягу, когда он застревает под диваном.

(Laughter)

(Смех)

And we can design robots specifically to evoke this response,

И мы умеем конструировать роботов, созданных вызывать такую реакцию

using eyes and faces or movements

глазами, мимикой и движениями,

that people automatically, subconsciously associate

которые люди автоматически подсознательно ассоциируют

with states of mind.

с выражением различных эмоций.

And there's an entire body of research called human-robot interaction

И исследования по взаимодействиям между человеком и роботом показывают,

that really shows how well this works.

насколько успешно это работает.

So for example, researchers at Stanford University found out

К примеру, учёные Стэнфордского университета выяснили,

that it makes people really uncomfortable

что люди испытывают дискомфорт,

when you ask them to touch a robot's private parts.

когда их просят потрогать интимные части тела робота.

(Laughter)

(Смех)

So from this, but from many other studies,

Из этих и из многих других исследований

we know, we know that people respond to the cues given to them

мы знаем о том, что люди реагируют на сигналы

by these lifelike machines,

этих как будто живых машин,

even if they know that they're not real.

даже если они знают, что они совсем не живые.

Now, we're headed towards a world where robots are everywhere.

Мы всё ближе к будущему, где роботы будут на каждом шагу.

Robotic technology is moving out from behind factory walls.

Робототехника перестаёт быть лишь частью производства,

It's entering workplaces, households.

постепенно проникая в наши дома и офисы.

And as these machines that can sense and make autonomous decisions and learn

И когда эти машины, которые могут ощущать, принимать решения и учиться,

enter into these shared spaces,

попадают в эти наполненные людьми места,

I think that maybe the best analogy we have for this

лучшая аналогия, которую можно придумать, —

is our relationship with animals.

наши отношения с животными.

Thousands of years ago, we started to domesticate animals,

Тысячи лет назад мы начали приручать животных,

and we trained them for work and weaponry and companionship.

использовать их для работы, сражений и просто в качестве друзей.

And throughout history, we've treated some animals like tools or like products,

И в ходе истории мы обращались с одними животными как с инструментами, товаром,

and other animals, we've treated with kindness

а с другими — с добротой,

and we've given a place in society as our companions.

выделили для них место в обществе, как партнёрам.

I think it's plausible we might start to integrate robots in similar ways.

И с высокой долей вероятности мы так же будем интегрировать роботов.

And sure, animals are alive.

Конечно же, животные — живые существа.

Robots are not.

Роботы — нет.

And I can tell you, from working with roboticists,

Я работаю с робототехниками и могу сказать вам,

that we're pretty far away from developing robots that can feel anything.

что эти учёные достаточно далеки от разработки роботов, умеющих чувствовать.

But we feel for them,

Но мы испытываем к ним чувства,

and that matters,

и это важно,

because if we're trying to integrate robots into these shared spaces,

ведь если мы хотим интегрировать их в эти разделяемые нами пространства,

we need to understand that people will treat them differently than other devices,

нужно понять, что к ним будут относиться не так, как к бытовой технике,

and that in some cases,

что в некоторых случаях,

for example, the case of a soldier who becomes emotionally attached

например, когда солдат привязывается к роботу,

to the robot that they work with,

с которым он работает,

that can be anything from inefficient to dangerous.

из этого может выйти что-то неэффективное или даже опасное.

But in other cases, it can actually be useful

Но в некоторых случаях бывает полезно

to foster this emotional connection to robots.

поощрять такие эмоциональные привязанности к роботам.

We're already seeing some great use cases,

Таких случаев мы видели уже великое множество,

for example, robots working with autistic children

к примеру, роботы, работающие с детьми с аутизмом,

to engage them in ways that we haven't seen previously,

захватывают их внимание так, как мы ещё не видели.

or robots working with teachers to engage kids in learning with new results.

И роботы помогают учителям привлечь детей к учёбе, тем самым повышая успеваемость.

And it's not just for kids.

Это касается не только детей.

Early studies show that robots can help doctors and patients

Согласно ранним исследованиям, роботы могут помогать врачам и пациентам

in health care settings.

в медицинских учреждениях.

This is the PARO baby seal robot.

Это детёныш морского котика PARO.

It's used in nursing homes and with dementia patients.

Он используется в домах престарелых и в уходе за больными деменцией

It's been around for a while.

достаточно давно.

And I remember, years ago, being at a party

Я помню, как много лет назад я была на вечеринке

and telling someone about this robot,

и рассказала какой-то девушке об этом роботе,

and her response was,

и её реакция была такой:

"Oh my gosh.

«О Боже,

That's horrible.

это ужасно!

I can't believe we're giving people robots instead of human care."

Не могу поверить, что вместо живых людей за ними ухаживают роботы!»

And this is a really common response,

И так реагирует подавляющее большинство,

and I think it's absolutely correct,

что, на мой взгляд, абсолютно нормально,

because that would be terrible.

ведь это было бы ужасно.

But in this case, it's not what this robot replaces.

Но в этом случае робот заменяет не человека.

What this robot replaces is animal therapy

Он заменяет пет-терапию

in contexts where we can't use real animals

в условиях, в которых мы не можем использовать настоящих животных,

but we can use robots,

а роботов можем,

because people will consistently treat them more like an animal than a device.

потому что люди обращаются с ними скорее как с животными, а не с машинами.

Acknowledging this emotional connection to robots

Осознание этой эмоциональной связи с роботами

can also help us anticipate challenges

может помочь нам понять, какие проблемы

as these devices move into more intimate areas of people's lives.

возникнут, когда эти роботы проникнут в более личные части нашей жизни.

For example, is it OK if your child's teddy bear robot

Например, нормально ли для плюшевого мишки вашего ребёнка

records private conversations?

записывать личные разговоры?

Is it OK if your sex robot has compelling in-app purchases?

Или если у вашего секс-робота есть обязательные встроенные покупки?

(Laughter)

(Смех)

Because robots plus capitalism

Ведь сложив роботов и капитализм,

equals questions around consumer protection and privacy.

мы получим вопросы о защите прав потребителей и их личной жизни.

And those aren't the only reasons

Наше поведение по отношению к роботам

that our behavior around these machines could matter.

может оказаться важным и по другим причинам.

A few years after that first initial experience I had

Несколько лет спустя, после того первого опыта

with this baby dinosaur robot,

с роботом-детёнышем динозавра,

I did a workshop with my friend Hannes Gassert.

мы с моей подругой Ханнес Гассерт проводили тренинг.

And we took five of these baby dinosaur robots

Мы взяли пять таких малышей-динозавров

and we gave them to five teams of people.

и раздали их пяти командам.

And we had them name them

Мы дали задание дать роботам имена,

and play with them and interact with them for about an hour.

играть и общаться с ними в течение часа.

And then we unveiled a hammer and a hatchet

А потом мы достали молоток и топор

and we told them to torture and kill the robots.

и приказали им мучить и убить роботов.

(Laughter)

(Смех)

And this turned out to be a little more dramatic

И это оказалось гораздо драматичнее,

than we expected it to be,

чем мы ожидали,

because none of the participants would even so much as strike

потому что ни один из участников не нанёс ни единого удара

these baby dinosaur robots,

по этим детёнышам,

so we had to improvise a little, and at some point, we said,

так что нам пришлось импровизировать, и в определённый момент мы сказали:

"OK, you can save your team's robot if you destroy another team's robot."

«Хорошо, вы можете спасти своего робота, если сломаете робота другой команды».

(Laughter)

(Смех)

And even that didn't work. They couldn't do it.

И даже это не помогло, они не могли сделать это.

So finally, we said,

Наконец мы сказали:

"We're going to destroy all of the robots

«Мы уничтожим всех роботов,

unless someone takes a hatchet to one of them."

если кто-нибудь не ударит топором одного.

And this guy stood up, and he took the hatchet,

И один парень встал, взял топор,

and the whole room winced as he brought the hatchet down

и каждый в комнате вздрогнул, когда он опустил топор

on the robot's neck,

на шею робота,

and there was this half-joking, half-serious moment of silence in the room

и после этого в комнате воцарилась полушутливая, полусерьёзная тишина

for this fallen robot.

из-за этого робота.

(Laughter)

(Смех)

So that was a really interesting experience.

Так что это оказалось очень интересным опытом.

Now, it wasn't a controlled study, obviously,

Конечно, это не было контролируемое исследование,

but it did lead to some later research that I did at MIT

но этот тренинг дал толчок для наших последующих исследований в МТИ

with Palash Nandy and Cynthia Breazeal,

совместно с Палаш Нанди и Синтией Брезил,

where we had people come into the lab and smash these HEXBUGs

когда люди приходили в лабораторию и крушили роботов HEXBUG,

that move around in a really lifelike way, like insects.

которые двигаются, как самые настоящие насекомые.

So instead of choosing something cute that people are drawn to,

Вместо того, чтобы выбрать что-то милое, притягивающее к себе людей,

we chose something more basic,

мы выбрали что-то более простое,

and what we found was that high-empathy people

и, как оказалось, склонные к сочувствию люди,

would hesitate more to hit the HEXBUGS.

колебались сильнее, прежде чем ударить этих роботов.

Now this is just a little study,

Это был лишь небольшой опыт,

but it's part of a larger body of research

но он часть большого числа исследований,

that is starting to indicate that there may be a connection

первые результаты которых показывают, что может существовать связь

between people's tendencies for empathy

между склонностью человека к сочувствию

and their behavior around robots.

и его поведением с роботами.

But my question for the coming era of human-robot interaction

Но мой вопрос для наступающей эры взаимодействия людей и роботов —

is not: "Do we empathize with robots?"

это не «Нужно ли сочувствовать роботам?»,

It's: "Can robots change people's empathy?"

а «Могут ли роботы влиять на наши чувства?»

Is there reason to, for example,

Стóит ли, например,

prevent your child from kicking a robotic dog,

не позволять ребёнку бить собаку-робота

not just out of respect for property,

не просто из уважения к имуществу,

but because the child might be more likely to kick a real dog?

но потому, что иначе в будущем он может начать бить живую собаку?

And again, it's not just kids.

И опять это применимо не только к детям.

This is the violent video games question, but it's on a completely new level

Напоминает вопрос об опасности жестоких видеоигр, но на совсем другом уровне

because of this visceral physicality that we respond more intensely to

из-за того, что здесь всё настоящее, на что мы реагируем гораздо сильнее,

than to images on a screen.

нежели на изображения на экране.

When we behave violently towards robots,

Когда мы проявляем жестокость по отношению к роботам,

specifically robots that are designed to mimic life,

особенно к тем, которые созданы имитировать жизнь,

is that a healthy outlet for violent behavior

здоровый ли это выход для нашего жестокого поведения

or is that training our cruelty muscles?

или же так мы лишь усугубляем такие склонности?

We don't know ...

Мы не знаем.

But the answer to this question has the potential to impact human behavior,

Но ответ на этот вопрос в будущем может повлиять на человеческое поведение,

it has the potential to impact social norms,

может повлиять на социальные нормы

it has the potential to inspire rules around what we can and can't do

и может повлиять на правила того, что мы можем и не можем делать

with certain robots,

с определёнными роботами,

similar to our animal cruelty laws.

подобно законам о жестоком обращении с животными.

Because even if robots can't feel,

Потому что даже если роботы не могут чувствовать,

our behavior towards them might matter for us.

наше поведение по отношению к ним может оказаться важным.

And regardless of whether we end up changing our rules,

И вне зависимости от того, станем ли мы менять наши законы,

robots might be able to help us come to a new understanding of ourselves.

роботы, возможно, смогут помочь нам лучше понять себя.

Most of what I've learned over the past 10 years

Бóльшая часть того, что я узнала за последние десятилетие,

has not been about technology at all.

никак не относится к технологиям.

It's been about human psychology

Я изучала психологию человека,

and empathy and how we relate to others.

способность сопереживать и то, как мы относимся друг к другу.

Because when a child is kind to a Roomba,

Потому что когда ребёнок добр к роботу-пылесосу,

when a soldier tries to save a robot on the battlefield,

когда солдат пытается спасти робота на поле боя,

or when a group of people refuses to harm a robotic baby dinosaur,

когда группа людей отказывается причинить вред роботу-детёнышу динозавра,

those robots aren't just motors and gears and algorithms.

эти роботы перестают быть просто механизмами и алгоритмами.

They're reflections of our own humanity.

Они становятся отражением нашей человечности.

Thank you.

Спасибо.

(Applause)

(Аплодисменты)