Why we have an emotional connection to robots | Kate Darling

Translator: Joseph Geni Reviewer: Krystian Aparta

Vertaald door: Esther van Driel Nagekeken door: Boukeline Arnold

There was a day, about 10 years ago,

Op een dag, zo'n tien jaar geleden, vroeg ik aan een vriend

when I asked a friend to hold a baby dinosaur robot upside down.

of hij een babydinosaurusrobot ondersteboven wilde houden.

It was this toy called a Pleo that I had ordered,

Het was een speelgoedbeest, een Pleo, dat ik besteld had,

and I was really excited about it because I've always loved robots.

en ik was er erg enthousiast over omdat ik altijd van robots gehouden heb.

And this one has really cool technical features.

En deze had hele gave technologische functies.

Hij had motortjes, aanraaksensoren en een infraroodcamera.

It had motors and touch sensors

and it had an infrared camera.

And one of the things it had was a tilt sensor,

Hij had ook een kantelsensor, zodat hij wist welke kant boven was.

so it knew what direction it was facing.

And when you held it upside down,

En als je hem ondersteboven hield, begon hij te huilen.

it would start to cry.

And I thought this was super cool, so I was showing it off to my friend,

Ik vond dit erg gaaf en liet hem trots aan mijn vriend zien.

and I said, "Oh, hold it up by the tail. See what it does."

"Hou hem eens bij zijn staart vast", zei ik, "en kijk wat er gebeurt."

So we're watching the theatrics of this robot

Dus we staan te kijken naar de verrichtingen van deze robot,

struggle and cry out.

die spartelt en huilt.

And after a few seconds,

Na een paar seconden ga ik me een beetje ongemakkelijk voelen

it starts to bother me a little,

and I said, "OK, that's enough now.

en zeg ik: "Oké, nu is het wel genoeg. Zet hem maar weer neer."

Let's put him back down."

And then I pet the robot to make it stop crying.

Daarna aaide ik de robot om hem te laten ophouden met huilen.

And that was kind of a weird experience for me.

Dat was best een vreemde ervaring voor me.

For one thing, I wasn't the most maternal person at the time.

Ten eerste was ik destijds niet zo'n moederlijk type.

Although since then I've become a mother, nine months ago,

Al ben ik negen maanden geleden zelf moeder geworden

and I've learned that babies also squirm when you hold them upside down.

en heb ik geleerd dat baby's ook spartelen als je ze ondersteboven houdt.

(Laughter)

(Gelach)

Maar mijn reactie op deze robot was ook interessant,

But my response to this robot was also interesting

because I knew exactly how this machine worked,

omdat ik precies wist hoe dit apparaat werkte

and yet I still felt compelled to be kind to it.

en er toch aardig tegen wilde zijn.

And that observation sparked a curiosity

Dat intrigeerde mij en daar ben ik de laatste tien jaar mee bezig geweest.

that I've spent the past decade pursuing.

Why did I comfort this robot?

Waarom troostte ik die robot?

And one of the things I discovered was that my treatment of this machine

Ik ontdekte dat de manier waarop ik dit apparaat behandelde

was more than just an awkward moment in my living room,

meer om het lijf had dan een enkel ongemakkelijk moment in mijn woonkamer,

that in a world where we're increasingly integrating robots into our lives,

en dat in een wereld waar robots steeds meer een deel van ons leven worden,

an instinct like that might actually have consequences,

zo'n instinct daadwerkelijk consequenties zou kunnen hebben,

because the first thing that I discovered is that it's not just me.

want het eerste waar ik achter kwam, was dat ik niet de enige ben.

In 2007, the Washington Post reported that the United States military

In 2007 schreef de Washington Post dat het Amerikaanse leger

was testing this robot that defused land mines.

een robot aan het testen was die landmijnen onschadelijk maakte.

And the way it worked was it was shaped like a stick insect

Het was een soort wandelende tak die over een mijnenveld liep

and it would walk around a minefield on its legs,

and every time it stepped on a mine, one of the legs would blow up,

en als hij op een mijn trapte, werd een van zijn poten opgeblazen

en liep hij verder op één poot minder om nog meer mijnen op te blazen.

and it would continue on the other legs to blow up more mines.

And the colonel who was in charge of this testing exercise

De kolonel die deze testoefening leidde, blies haar uiteindelijk helemaal af,

ends up calling it off,

because, he says, it's too inhumane

omdat hij het onmenselijk vond

to watch this damaged robot drag itself along the minefield.

om toe te kijken hoe deze robot zich over het mijnenveld sleepte.

Now, what would cause a hardened military officer

Hoe zou het kunnen dat een door de wol geverfde legerofficier

and someone like myself

en iemand zoals ik op deze manier op robots reageren?

to have this response to robots?

Well, of course, we're primed by science fiction and pop culture

Natuurlijk hebben science fiction en popcultuur ons ertoe aangezet

to really want to personify these things,

deze dingen te verpersoonlijken,

but it goes a little bit deeper than that.

maar het gaat dieper.

It turns out that we're biologically hardwired to project intent and life

Het blijkt dat het in onze natuur zit om intenties en leven toe te schrijven

onto any movement in our physical space that seems autonomous to us.

aan alles wat in onze omgeving uit zichzelf lijkt te bewegen.

So people will treat all sorts of robots like they're alive.

Dus we zullen allerlei soorten robots behandelen alsof het levende wezens zijn.

These bomb-disposal units get names.

Robots die mijnen ontmantelen, krijgen een naam.

They get medals of honor.

Ze krijgen eremedailles.

They've had funerals for them with gun salutes.

Er zijn begrafenissen met saluutschoten voor hen georganiseerd.

And research shows that we do this even with very simple household robots,

Onderzoek wijst uit dat we dit zelfs met simpele huishoudrobots doen,

like the Roomba vacuum cleaner.

zoals de Roomba-stofzuiger.

(Laughter)

(Gelach)

It's just a disc that roams around your floor to clean it,

Dat is niet meer dan een schijf die rondrijdt en je vloer schoonmaakt,

but just the fact it's moving around on its own

maar het feit dat hij zelfstandig beweegt zorgt ervoor dat mensen hem een naam geven

will cause people to name the Roomba

and feel bad for the Roomba when it gets stuck under the couch.

en het rot voor hem vinden als hij onder de bank vast komt te zitten.

(Laughter)

(Gelach)

And we can design robots specifically to evoke this response,

We kunnen robots zo ontwerpen dat ze juist deze reactie uitlokken,

using eyes and faces or movements

door ze uit te rusten met ogen en gezichten of bewegingen

that people automatically, subconsciously associate

die mensen automatisch en onbewust associëren met gemoedstoestanden.

with states of mind.

And there's an entire body of research called human-robot interaction

Er is een hele onderzoekstak, mens-robotinteractie genaamd,

that really shows how well this works.

die laat zien hoe goed dit werkt.

So for example, researchers at Stanford University found out

Onderzoekers van de Stanford University ontdekten bijvoorbeeld

that it makes people really uncomfortable

dat mensen zich ongemakkelijk voelen

when you ask them to touch a robot's private parts.

als je hen vraagt de edele delen van een robot aan te raken.

(Laughter)

(Gelach)

So from this, but from many other studies,

Door deze en veel andere onderzoeken

we know, we know that people respond to the cues given to them

weten we dat mensen reageren

op signalen die ze krijgen van deze levensechte apparaten,

by these lifelike machines,

even if they know that they're not real.

zelfs als ze weten dat ze niet echt zijn.

Now, we're headed towards a world where robots are everywhere.

We gaan naar een wereld toe waarin overal robots zijn.

Robotic technology is moving out from behind factory walls.

Robottechnologie begeeft zich buiten de fabrieksmuren.

It's entering workplaces, households.

Het komt naar de werkvloer en huishoudens.

And as these machines that can sense and make autonomous decisions and learn

Als deze apparaten, die kunnen voelen, zelfstandig beslissingen nemen en leren,

enter into these shared spaces,

tot deze gedeelde ruimtes doordringen,

I think that maybe the best analogy we have for this

denk ik dat we dat het beste kunnen vergelijken

is our relationship with animals.

met de relatie die we met dieren hebben.

Thousands of years ago, we started to domesticate animals,

Duizenden jaren geleden begonnen we dieren te temmen

and we trained them for work and weaponry and companionship.

en hen te leren voor ons te werken, te vechten en ons gezelschap te houden.

And throughout history, we've treated some animals like tools or like products,

Sommige dieren hebben we behandeld als gereedschap of als product;

and other animals, we've treated with kindness

andere hebben we vriendelijk behandeld

and we've given a place in society as our companions.

en als huisdier een plaats gegeven in onze gemeenschap.

I think it's plausible we might start to integrate robots in similar ways.

Het is denkbaar dat we robots op dezelfde manier zullen integreren.

And sure, animals are alive.

Natuurlijk, dieren zijn levende wezens.

Robots are not.

Robots zijn dat niet.

And I can tell you, from working with roboticists,

Ik kan jullie vertellen, door mijn werk met robotici,

dat we nog lang geen robots kunnen ontwikkelen die iets kunnen voelen.

that we're pretty far away from developing robots that can feel anything.

But we feel for them,

Maar wij hebben wel gevoelens ten aanzien van hén

and that matters,

en dat is belangrijk,

because if we're trying to integrate robots into these shared spaces,

want als we robots willen toelaten in deze gezamenlijke ruimtes,

we need to understand that people will treat them differently than other devices,

dan moeten we begrijpen dat we er anders mee omgaan dan met andere apparaten

and that in some cases,

en dat dit soms,

for example, the case of a soldier who becomes emotionally attached

zoals bij de soldaat die zich emotioneel hecht aan de robot waarmee hij werkt,

to the robot that they work with,

that can be anything from inefficient to dangerous.

inefficiënt kan zijn of zelfs ronduit gevaarlijk.

But in other cases, it can actually be useful

In andere gevallen kan het juist handig zijn

to foster this emotional connection to robots.

om deze emotionele band met robots te versterken.

We're already seeing some great use cases,

We kennen al verschillende praktische toepassingen,

for example, robots working with autistic children

zoals robots die werken met autistische kinderen

to engage them in ways that we haven't seen previously,

en hun aandacht vasthouden op manieren die we nog niet eerder gezien hebben,

or robots working with teachers to engage kids in learning with new results.

of robots die samen met leraren kinderen helpen te leren, met resultaat.

And it's not just for kids.

En het werkt niet alleen bij kinderen.

Early studies show that robots can help doctors and patients

Vroege studies laten zien dat robots artsen en patiënten kunnen helpen

in health care settings.

op het gebied van zorg.

This is the PARO baby seal robot.

Dit is de PARO-babyzeehondrobot.

It's used in nursing homes and with dementia patients.

Hij wordt gebruikt in verzorgingshuizen en bij dementiepatiënten.

It's been around for a while.

Hij is er al een tijdje.

And I remember, years ago, being at a party

En ik herinner me, jaren geleden, toen ik op een feestje was

and telling someone about this robot,

en ik iemand vertelde over deze robot,

and her response was,

haar reactie was:

"Oh my gosh.

"Oh, mijn god. Dat is verschrikkelijk.

That's horrible.

I can't believe we're giving people robots instead of human care."

Niet te geloven dat we mensen robots geven in plaats van menselijke zorg."

And this is a really common response,

Deze reactie komt vaak voor

and I think it's absolutely correct,

en ik denk inderdaad dat hij helemaal terecht is,

because that would be terrible.

want dat zou verschrikkelijk zijn.

But in this case, it's not what this robot replaces.

Maar dat is niet wat de robot hier vervangt.

What this robot replaces is animal therapy

Deze robot vervangt diertherapie

als we geen echte dieren kunnen gebruiken maar robots wel,

in contexts where we can't use real animals

but we can use robots,

because people will consistently treat them more like an animal than a device.

omdat we die consequent meer als dier dan als apparaat behandelen.

Acknowledging this emotional connection to robots

Als we deze emotionele band met robots erkennen,

can also help us anticipate challenges

kan ons dat ook helpen uitdagingen het hoofd te bieden

as these devices move into more intimate areas of people's lives.

als deze apparaten hun intrede doen in onze privésfeer.

For example, is it OK if your child's teddy bear robot

Is het bijvoorbeeld acceptabel als de teddybeerrobot van je kind

records private conversations?

vertrouwelijke gesprekken opneemt?

Is it OK if your sex robot has compelling in-app purchases?

Is het acceptabel als je seksrobot onweerstaanbare in-app aankopen aanbiedt?

(Laughter)

(Gelach)

Because robots plus capitalism

Want de combinatie van robots en kapitalisme

equals questions around consumer protection and privacy.

roept vragen op over consumentenbescherming en privacy.

And those aren't the only reasons

En dat zijn niet de enige redenen

that our behavior around these machines could matter.

waarom onze opstelling tegenover deze apparaten van belang kan zijn.

A few years after that first initial experience I had

Een paar jaar na mijn eerste ervaring met die babydinosaurusrobot

with this baby dinosaur robot,

I did a workshop with my friend Hannes Gassert.

gaf ik een workshop met mijn vriend Hannes Gassert.

And we took five of these baby dinosaur robots

We gaven vijf van deze babydinosaurusrobots

and we gave them to five teams of people.

aan vijf groepjes mensen.

And we had them name them

Ze moesten er een naam voor verzinnen

and play with them and interact with them for about an hour.

en ze mochten ermee spelen en ermee aanrommelen, zo'n uur lang.

And then we unveiled a hammer and a hatchet

Toen haalden we een hamer en bijl tevoorschijn

and we told them to torture and kill the robots.

en vroegen hen de robots te martelen en vermoorden.

(Laughter)

(Gelach)

And this turned out to be a little more dramatic

Dit leek iets gevoeliger te liggen dan we gedacht hadden,

than we expected it to be,

because none of the participants would even so much as strike

want geen van de deelnemers wilde ook maar een tik uitdelen

these baby dinosaur robots,

aan deze babydinosaurusrobots,

so we had to improvise a little, and at some point, we said,

dus moesten we improviseren en op een gegeven moment zeiden we:

"Jullie kunnen je eigen robot redden als jullie die van een ander team slopen."

"OK, you can save your team's robot if you destroy another team's robot."

(Laughter)

(Gelach)

And even that didn't work. They couldn't do it.

Zelfs dat werkte niet. Ze konden het niet.

Uiteindelijk zeiden we:

So finally, we said,

"We're going to destroy all of the robots

"We gaan alle robots vernietigen

unless someone takes a hatchet to one of them."

tenzij iemand er één met een bijl bewerkt."

And this guy stood up, and he took the hatchet,

Eén man stond op en pakte de bijl,

and the whole room winced as he brought the hatchet down

en iedereen kromp ineen toen hij de bijl liet neerkomen

on the robot's neck,

op de nek van de robot;

and there was this half-joking, half-serious moment of silence in the room

in de kamer viel een ogenblik stilte, half geamuseerd, half ernstig,

for this fallen robot.

vanwege deze gevallen robot.

(Laughter)

(Gelach)

So that was a really interesting experience.

Dat was een heel interessante ervaring.

Now, it wasn't a controlled study, obviously,

Het was natuurlijk geen gecontroleerd onderzoek,

but it did lead to some later research that I did at MIT

maar het zorgde ervoor dat ik meer onderzoek ging doen aan het MIT

with Palash Nandy and Cynthia Breazeal,

met Palash Nandy en Cynthia Breazeal.

where we had people come into the lab and smash these HEXBUGs

We lieten mensen naar het lab komen en lieten hen deze HEXBUGs slopen;

that move around in a really lifelike way, like insects.

ze bewegen zich als insecten, op een levensechte manier.

So instead of choosing something cute that people are drawn to,

In plaats van iets schattigs te kiezen waar mensen zich tot aangetrokken voelen,

we chose something more basic,

kozen we iets simpelers

and what we found was that high-empathy people

en we ontdekten dat mensen die veel inlevingsvermogen hebben

would hesitate more to hit the HEXBUGS.

langer aarzelden om op de HEXBUGs in te slaan.

Now this is just a little study,

Dit is maar een klein onderzoek,

but it's part of a larger body of research

maar het maakt deel uit van een grote groep onderzoeken

that is starting to indicate that there may be a connection

die beginnen uit te wijzen dat er een verband zou kunnen zijn

between people's tendencies for empathy

tussen iemands inlevingsvermogen en zijn houding ten aanzien van robots.

and their behavior around robots.

But my question for the coming era of human-robot interaction

Mijn vraag voor de toekomst van mens-robotinteractie is niet:

is not: "Do we empathize with robots?"

'Kunnen we ons inleven in robots?'

It's: "Can robots change people's empathy?"

maar: 'Hebben robots invloed op ons inlevingsvermogen?'

Is there reason to, for example,

Moet je bijvoorbeeld verhinderen

prevent your child from kicking a robotic dog,

dat je kind een robothond schopt,

not just out of respect for property,

niet alleen omdat je nu eenmaal tegen spullen aan trapt,

but because the child might be more likely to kick a real dog?

maar omdat het kind misschien anders ook sneller een echte hond zou schoppen?

And again, it's not just kids.

Nogmaals, het gaat hier niet alleen over kinderen.

This is the violent video games question, but it's on a completely new level

Hetzelfde speelt bij gewelddadige videogames,

maar nu is het op totaal onbekend terrein,

because of this visceral physicality that we respond more intensely to

want op lichamelijke prikkels reageren we veel sterker dan op schermbeelden.

than to images on a screen.

When we behave violently towards robots,

Als we ons gewelddadig opstellen naar robots toe,

specifically robots that are designed to mimic life,

vooral naar robots die ontworpen zijn om levensecht te lijken,

is that a healthy outlet for violent behavior

is dat dan een gezonde uitlaatklep voor onze gewelddadige gevoelens

or is that training our cruelty muscles?

of trainen we dan juist ons vermogen om ons wreed te gedragen?

We don't know ...

We weten het niet ...

But the answer to this question has the potential to impact human behavior,

Het antwoord op deze vraag kan menselijk gedrag beïnvloeden,

it has the potential to impact social norms,

kan sociale normen beïnvloeden,

it has the potential to inspire rules around what we can and can't do

kan leiden tot regels over wat we wel en niet kunnen doen

with certain robots,

met bepaalde robots,

similar to our animal cruelty laws.

net zoals er wetten zijn omtrent dierenmishandeling.

Because even if robots can't feel,

Want zelfs als robots geen gevoel hebben,

our behavior towards them might matter for us.

dan nog kan de manier waarop we ons tegenover hen opstellen, belangrijk zijn.

And regardless of whether we end up changing our rules,

Of we nu wel of niet de regels gaan veranderen,

robots might be able to help us come to a new understanding of ourselves.

robots zouden ons kunnen helpen onszelf beter te gaan begrijpen.

Het meeste van wat ik de laatste tien jaar heb geleerd,

Most of what I've learned over the past 10 years

has not been about technology at all.

ging helemaal niet over technologie.

It's been about human psychology

Het ging over psychologie en empathie

and empathy and how we relate to others.

en hoe we met elkaar omgaan.

Because when a child is kind to a Roomba,

Want als een kind lief doet tegen een Roomba,

when a soldier tries to save a robot on the battlefield,

als een soldaat een robot op het slagveld probeert te redden,

or when a group of people refuses to harm a robotic baby dinosaur,

of als een groep mensen weigert om een babydinosaurusrobot kwaad te doen,

those robots aren't just motors and gears and algorithms.

dan zijn deze robots niet alleen motoren en tandwielen en algoritmes.

They're reflections of our own humanity.

Dan zijn ze reflecties van onze eigen menselijkheid.

Thank you.

Dank jullie wel.

(Applause)

(Applaus)