Why we have an emotional connection to robots | Kate Darling

Translator: Joseph Geni Reviewer: Krystian Aparta

Översättare: Fanny Matt Granskare: Lisbeth Pekkari

There was a day, about 10 years ago,

Det var en dag, för ungefär 10 år sedan,

when I asked a friend to hold a baby dinosaur robot upside down.

som jag bad en vän att hålla en robot i form av en dinosauriebebis upp och ned.

It was this toy called a Pleo that I had ordered,

Det var en leksak som kallas Pleo som jag hade beställt,

and I was really excited about it because I've always loved robots.

och jag var väldigt glad över det eftersom jag alltid älskat robotar.

And this one has really cool technical features.

Just denna har väldigt coola tekniska egenskaper.

It had motors and touch sensors

Den hade motorer och rörelsesensorer

and it had an infrared camera.

och den hade en infraröd kamera.

And one of the things it had was a tilt sensor,

En av funktionerna den hade var en lutningssensor,

so it knew what direction it was facing.

så den visste i vilken riktning den var vänd.

And when you held it upside down,

När du höll den upp och ned,

it would start to cry.

så började den gråta.

And I thought this was super cool, so I was showing it off to my friend,

Jag tyckte det var jättehäftigt, så jag visade upp den för min vän,

and I said, "Oh, hold it up by the tail. See what it does."

och jag sade "Håll upp den i svansen. Se vad den gör."

So we're watching the theatrics of this robot

Så vi håller på att observera robotens agerande,

struggle and cry out.

kämpande och gråtande.

And after a few seconds,

Efter en stund,

it starts to bother me a little,

så börjar det besvära mig lite,

and I said, "OK, that's enough now.

och jag sade "OK, nu räcker det.

Let's put him back down."

Vi sätter ned honom igen."

And then I pet the robot to make it stop crying.

Sedan klappade jag roboten för att få den att sluta gråta.

And that was kind of a weird experience for me.

Det var en konstig erfarenhet för mig.

For one thing, I wasn't the most maternal person at the time.

För det första var jag inte en särskilt moderlig person vid det tillfället.

Although since then I've become a mother, nine months ago,

Men sedan jag blev mamma för nio månader sedan,

and I've learned that babies also squirm when you hold them upside down.

har jag lärt mig att bebisar också gråter när man håller dem upp och ned.

(Laughter)

(Skratt)

But my response to this robot was also interesting

Min respons till den här roboten var intressant,

because I knew exactly how this machine worked,

eftersom jag visste exakt hur den här maskinen fungerade,

and yet I still felt compelled to be kind to it.

och ändå kände jag att jag behövde vara snäll mot den.

And that observation sparked a curiosity

Den observationen väckte en nyfikenhet

that I've spent the past decade pursuing.

som jag har ägnat mig åt under det senaste årtiondet.

Why did I comfort this robot?

Varför tröstade jag roboten?

And one of the things I discovered was that my treatment of this machine

En av sakerna jag upptäckte var att min behandling av den här maskinen

was more than just an awkward moment in my living room,

var mer än bara ett besvärligt ögonblick i mitt vardagsrum,

that in a world where we're increasingly integrating robots into our lives,

att i en värld där vi mer och mer integrerar robotar i våra liv,

an instinct like that might actually have consequences,

kan en sådan instinkt faktiskt ha konsekvenser,

because the first thing that I discovered is that it's not just me.

eftersom det första jag märkte var att det inte bara är jag.

In 2007, the Washington Post reported that the United States military

2007 rapporterade Washington Post att USA:s militär

was testing this robot that defused land mines.

höll på att testa en robot som desarmerade landminor.

And the way it worked was it was shaped like a stick insect

Den fungerade så att den var formad som en vandrande pinne

and it would walk around a minefield on its legs,

och den gick runt på ett minfält på sina ben,

and every time it stepped on a mine, one of the legs would blow up,

och varje gång den trampade på en mina, så sprängdes ett ben sönder,

and it would continue on the other legs to blow up more mines.

och sen fortsatte den på de andra benen och sprängde fler minor.

And the colonel who was in charge of this testing exercise

Översten som ledde det här testet

ends up calling it off,

avbröt till slut övningen,

because, he says, it's too inhumane

eftersom han menade att det var för inhumant

to watch this damaged robot drag itself along the minefield.

att se den skadade roboten släpa sig fram över minfältet.

Now, what would cause a hardened military officer

Vad skulle kunna göra att en tuff militär officer

and someone like myself

och någon som jag själv

to have this response to robots?

har en sådan respons till robotar?

Well, of course, we're primed by science fiction and pop culture

Vi är såklart påverkade av science fiction och populärkultur

to really want to personify these things,

att vilja personifiera de här sakerna,

but it goes a little bit deeper than that.

men det går lite djupare än så.

It turns out that we're biologically hardwired to project intent and life

Vi är tydligen biologiskt programmerade till att projicera vilja och liv

onto any movement in our physical space that seems autonomous to us.

på all rörelse i vår fysiska omgivning som för oss verkar vara självständig.

So people will treat all sorts of robots like they're alive.

Så människor kommer att behandla alla slags robotar som levande varelser.

These bomb-disposal units get names.

Minröjarrobotarna får egna namn.

They get medals of honor.

De får hedersmedaljer.

They've had funerals for them with gun salutes.

De har haft begravningar för dem med kanonsalut.

And research shows that we do this even with very simple household robots,

Forskning visar att vi även gör detta med enkla hushållsrobotar,

like the Roomba vacuum cleaner.

som Roomba-dammsugaren.

(Laughter)

(Skratt)

It's just a disc that roams around your floor to clean it,

Det är bara en disk som åker runt på ditt golv och rengör det,

but just the fact it's moving around on its own

men det faktum att den åker omkring på egen hand

will cause people to name the Roomba

gör så att folk döper sin Roomba

and feel bad for the Roomba when it gets stuck under the couch.

och tycker synd om den när den fastnar under soffan.

(Laughter)

(Skratt)

And we can design robots specifically to evoke this response,

Vi kan designa robotar för att framkalla den här reaktionen,

using eyes and faces or movements

genom att använda ögon och ansikten eller rörelser

that people automatically, subconsciously associate

som folk automatiskt, undermedvetet associerar

with states of mind.

med känslor.

And there's an entire body of research called human-robot interaction

Det finns ett helt forskningsområde kallat människa-robotinteraktion

that really shows how well this works.

som visar hur väl det här fungerar.

So for example, researchers at Stanford University found out

Till exempel har forskare vid Stanfords universitet upptäckt

that it makes people really uncomfortable

att det gör folk väldigt obekväma

when you ask them to touch a robot's private parts.

om du ber dem att ta på en robots intima delar.

(Laughter)

(Skratt)

So from this, but from many other studies,

Från denna, men även många andra studier,

we know, we know that people respond to the cues given to them

vet vi att människor reagerar på dessa signaler

by these lifelike machines,

från dessa naturtrogna maskiner,

even if they know that they're not real.

fastän de vet att de inte är verkliga.

Now, we're headed towards a world where robots are everywhere.

Nu är vi på väg mot en värld där robotar finns överallt.

Robotic technology is moving out from behind factory walls.

Robotteknik träder ut genom fabriksväggarna.

It's entering workplaces, households.

Den kommer in på arbetsplatser, i hushåll.

And as these machines that can sense and make autonomous decisions and learn

I och med att dessa maskiner som kan läsa av, ta egna beslut och lära sig saker

enter into these shared spaces,

träder in i dessa gemensamma utrymmen,

I think that maybe the best analogy we have for this

tror jag att den bästa analogin vi har för detta

is our relationship with animals.

är vår relation till djur.

Thousands of years ago, we started to domesticate animals,

För tusentals år sedan började vi tämja djur,

and we trained them for work and weaponry and companionship.

vi tränade dem för arbete, beväpning och sällskap.

And throughout history, we've treated some animals like tools or like products,

Genom historien har vi behandlat vissa djur som verktyg eller produkter,

and other animals, we've treated with kindness

och andra djur har vi behandlat med vänlighet

and we've given a place in society as our companions.

och vi har gett dem en plats i samhället som våra kamrater.

I think it's plausible we might start to integrate robots in similar ways.

Jag tror det är sannolikt att vi kommer börja integrera robotar på liknande sätt.

And sure, animals are alive.

Och visst, djur är levande.

Robots are not.

Robotar är det inte.

And I can tell you, from working with roboticists,

Och jag kan säga, efter att ha jobbat med robottekniker,

that we're pretty far away from developing robots that can feel anything.

att vi är ganska långt från att utveckla robotar som har känslor.

But we feel for them,

Men vi känner med dem,

and that matters,

och det spelar roll,

because if we're trying to integrate robots into these shared spaces,

för om vi försöker integrera robotar i våra gemensamma rum,

we need to understand that people will treat them differently than other devices,

behöver vi förstå att folk kommer att behandla dem annorlunda än andra maskiner,

and that in some cases,

och att i vissa fall,

for example, the case of a soldier who becomes emotionally attached

till exempel i fallet med en soldat som blir känslomässigt fäst

to the robot that they work with,

till den robot hen arbetar med,

that can be anything from inefficient to dangerous.

kan det bli allt från ineffektivt till farligt.

But in other cases, it can actually be useful

I andra fall kan det faktiskt vara användbart

to foster this emotional connection to robots.

att vårda den känslomässiga anknytningen till robotar.

We're already seeing some great use cases,

Vi ser redan några viktiga användningsområden,

for example, robots working with autistic children

exempelvis robotar som arbetar med autistiska barn

to engage them in ways that we haven't seen previously,

för att engagera dem på sätt vi inte har sett tidigare,

or robots working with teachers to engage kids in learning with new results.

eller robotar som jobbar med lärare och uppmuntrar barns lärande med nya resultat.

And it's not just for kids.

Det är inte bara för barn.

Early studies show that robots can help doctors and patients

Tidigare studier visar att robotar kan hjälpa läkare och patienter

in health care settings.

i sjukvårdssituationer.

This is the PARO baby seal robot.

Detta är PARO, en sälbebisrobot.

It's used in nursing homes and with dementia patients.

Den används på vårdhem och med demenspatienter.

It's been around for a while.

Den har funnits ganska länge.

And I remember, years ago, being at a party

Jag minns, för flera år sedan, när jag var på en fest

and telling someone about this robot,

och berättade för någon om den här roboten,

and her response was,

och hennes svar var,

"Oh my gosh.

"Herregud.

That's horrible.

Vad hemskt.

I can't believe we're giving people robots instead of human care."

Det är otroligt att vi ger folk robotar istället för mänsklig vård."

And this is a really common response,

Detta är ett väldigt vanligt svar,

and I think it's absolutely correct,

och jag tycker att det stämmer,

because that would be terrible.

för det vore ju hemskt.

But in this case, it's not what this robot replaces.

Men nu är det inte det som roboten ersätter.

What this robot replaces is animal therapy

Det som roboten ersätter är djurterapi

in contexts where we can't use real animals

i sammanhang där vi inte kan använda riktiga djur,

but we can use robots,

men kan använda robotar,

because people will consistently treat them more like an animal than a device.

eftersom folk alltid kommer att behandla dem mer som djur än en maskin.

Acknowledging this emotional connection to robots

Att erkänna det känslomässiga bandet till robotar

can also help us anticipate challenges

kan även hjälpa oss att förutse problem

as these devices move into more intimate areas of people's lives.

när dessa apparater flyttar in i mer intima delar av folks liv.

For example, is it OK if your child's teddy bear robot

Är det till exempel OK att ditt barns gosedjursrobot

records private conversations?

spelar in privata samtal?

Is it OK if your sex robot has compelling in-app purchases?

Är det OK att din sexrobot har lockande köp inuti appen?

(Laughter)

(Skratt)

Because robots plus capitalism

För robotar plus kapitalism

equals questions around consumer protection and privacy.

är lika med frågor kring konsumentskydd och integritet.

And those aren't the only reasons

Och det är inte de enda skälen

that our behavior around these machines could matter.

till att vårt beteende kring dessa maskiner kan spela roll.

A few years after that first initial experience I had

Några år efter den där första erfarenheten jag hade

with this baby dinosaur robot,

med den här dinosauriebebisroboten

I did a workshop with my friend Hannes Gassert.

gjorde jag en workshop med min vän Hannes Gassert.

And we took five of these baby dinosaur robots

Vi tog fem av dessa dinosauriebebisrobotar

and we gave them to five teams of people.

och gav dem till fem grupper av människor.

And we had them name them

Vi fick dem att namnge dem

and play with them and interact with them for about an hour.

och leka med dem och interagera med dem i ungefär en timme.

And then we unveiled a hammer and a hatchet

Sen tog vi fram en hammare och en yxa

and we told them to torture and kill the robots.

och vi bad dem att tortera och döda robotarna.

(Laughter)

(Skratt)

And this turned out to be a little more dramatic

Det visade sig bli lite mer dramatiskt

than we expected it to be,

än vi förväntat oss,

because none of the participants would even so much as strike

eftersom ingen av deltagarna ens ville slå till

these baby dinosaur robots,

bebisdinosaurierobotarna,

so we had to improvise a little, and at some point, we said,

så vi fick improvisera lite, och vid ett tillfälle sade vi,

"OK, ni kan rädda ert lags robot om ni förstör ett annat lags robot."

"OK, you can save your team's robot if you destroy another team's robot."

(Laughter)

(Skratt)

And even that didn't work. They couldn't do it.

Inte ens det fungerade. De kunde inte göra det.

So finally, we said,

Så till slut sade vi,

"We're going to destroy all of the robots

"Vi kommer att förstöra alla robotarna

unless someone takes a hatchet to one of them."

om inte någon använder yxan på en av dem."

And this guy stood up, and he took the hatchet,

Och en kille ställde sig upp, tog yxan,

and the whole room winced as he brought the hatchet down

och hela rummet ryckte till när han slog ned yxan

on the robot's neck,

på robotens nacke,

and there was this half-joking, half-serious moment of silence in the room

och det uppstod ett halvt skämtsamt, halvt allvarligt

ögonblick av tystnad i rummet för den fallna roboten.

for this fallen robot.

(Laughter)

(Skratt)

So that was a really interesting experience.

Så det var en väldigt intressant upplevelse.

Now, it wasn't a controlled study, obviously,

Det var ju såklart inte en kontrollerad studie,

but it did lead to some later research that I did at MIT

men det ledde till senare forskning som jag gjorde på MIT

with Palash Nandy and Cynthia Breazeal,

med Palash Nandy och Cynthia Breazeal,

where we had people come into the lab and smash these HEXBUGs

där folk fick komma till labbet och krossa dessa HEXBUGS

that move around in a really lifelike way, like insects.

som rör sig på ett väldigt naturtroget sätt, som insekter.

So instead of choosing something cute that people are drawn to,

Istället för att välja något gulligt som människor dras till,

we chose something more basic,

valde vi något mer simpelt,

and what we found was that high-empathy people

och vi upptäckte att personer med hög empati

would hesitate more to hit the HEXBUGS.

tvekade mer inför att krossa våra HEXBUGS.

Now this is just a little study,

Det här är bara en liten studie,

but it's part of a larger body of research

men det är en del av ett större forskningsområde

that is starting to indicate that there may be a connection

som börjar visa på att det kan finnas en koppling

between people's tendencies for empathy

mellan folks tendenser för empati

and their behavior around robots.

och hur de beter sig med robotar.

But my question for the coming era of human-robot interaction

Men min fråga för den kommande eran av människa-robotinteraktion

is not: "Do we empathize with robots?"

är inte: "Empatiserar vi med robotar?"

It's: "Can robots change people's empathy?"

Utan: "Kan robotar ändra människors empati?"

Is there reason to, for example,

Finns det exempelvis en mening med

prevent your child from kicking a robotic dog,

att hindra ditt barn från att sparka en robothund,

not just out of respect for property,

inte bara av respekt för egendom,

but because the child might be more likely to kick a real dog?

men för att barnet kan vara mer benäget att sparka en riktig hund?

And again, it's not just kids.

Igen, det handlar inte bara om barn.

This is the violent video games question, but it's on a completely new level

Det är den våldsamma datorspelsfrågan, men på en helt ny nivå

because of this visceral physicality that we respond more intensely to

på grund av den här fysiska dimensionen som vi reagerar mer intensivt på

than to images on a screen.

än bilder på en skärm.

When we behave violently towards robots,

När vi beter oss våldsamt mot robotar,

specifically robots that are designed to mimic life,

speciellt robotar som är designade att likna en levande varelse,

is that a healthy outlet for violent behavior

är det ett hälsosamt utlopp för våldsamt beteende

or is that training our cruelty muscles?

eller är det en träning av våra grymhetsmuskler?

We don't know ...

Vi vet inte...

But the answer to this question has the potential to impact human behavior,

Men svaret på denna fråga har potential att påverka mänskligt beteende,

it has the potential to impact social norms,

det har potential att påverka sociala normer,

it has the potential to inspire rules around what we can and can't do

det har potential att ge upphov till regler om vad vi får och inte får göra

with certain robots,

med vissa robotar,

similar to our animal cruelty laws.

liknande våra lagar om djurplågeri.

Because even if robots can't feel,

Även om robotar inte kan känna,

our behavior towards them might matter for us.

kan vårt beteende gentemot dem spela en roll för oss.

And regardless of whether we end up changing our rules,

Oavsett om vi i slutändan ändrar våra regler eller inte,

robots might be able to help us come to a new understanding of ourselves.

så kan robotar hjälpa oss att få en ny förståelse för oss själva.

Det mesta av det jag lärt mig de senaste 10 åren

Most of what I've learned over the past 10 years

has not been about technology at all.

har inte alls handlat om teknologi.

It's been about human psychology

Det har handlat om mänsklig psykologi,

and empathy and how we relate to others.

empati och hur vi relaterar till andra.

Because when a child is kind to a Roomba,

När ett barn är snällt mot en Roomba,

when a soldier tries to save a robot on the battlefield,

när en soldat försöker att rädda en robot på slagfältet,

or when a group of people refuses to harm a robotic baby dinosaur,

eller när en grupp människor vägrar att skada en dinosauriebebisrobot,

those robots aren't just motors and gears and algorithms.

så är robotarna inte bara motorer och kugghjul och algoritmer.

They're reflections of our own humanity.

De är reflektioner av vår egen humanitet.

Thank you.

Tack.

(Applause)

(Applåder)