Why we have an emotional connection to robots | Kate Darling

Translator: Joseph Geni Reviewer: Krystian Aparta

Traducteur: Claire Ghyselen Relecteur: Morgane Quilfen

There was a day, about 10 years ago,

Un jour, il y a environ 10 ans,

when I asked a friend to hold a baby dinosaur robot upside down.

j'ai demandé à un ami de tenir à l'envers un robot en forme de petit dinosaure.

It was this toy called a Pleo that I had ordered,

J'avais commandé ce jouet qui répond au nom de Pleo.

and I was really excited about it because I've always loved robots.

J'étais vraiment ravie car j'ai toujours aimé les robots.

And this one has really cool technical features.

Celui-ci avait des caractéristiques vraiment cool.

It had motors and touch sensors

Il avait des moteurs, des capteurs haptiques

and it had an infrared camera.

et une caméra infrarouge.

And one of the things it had was a tilt sensor,

Il avait aussi un capteur d'inclinaison

so it knew what direction it was facing.

qui lui permettait de savoir dans quelle direction il était.

And when you held it upside down,

Si on le tenait la tête en bas,

it would start to cry.

il se mettait à pleurer.

And I thought this was super cool, so I was showing it off to my friend,

Je trouvais ça super et donc j'étais fière de le montrer à mon ami.

and I said, "Oh, hold it up by the tail. See what it does."

Je lui ai proposé de le tenir par la queue pour voir sa réaction.

So we're watching the theatrics of this robot

On observe les gesticulations du robot

struggle and cry out.

qui se débat et pleure,

And after a few seconds,

mais après quelques secondes,

it starts to bother me a little,

ça a commencé à me perturber un peu.

and I said, "OK, that's enough now.

Alors j'ai décrété que c'était assez

Let's put him back down."

et que nous devrions le remettre à l'endroit.

And then I pet the robot to make it stop crying.

J'ai alors caressé le robot jusqu'à ce qu'il arrête de pleurer.

And that was kind of a weird experience for me.

Ce fut une expérience troublante pour moi.

For one thing, I wasn't the most maternal person at the time.

D'abord, je n'étais pas particulièrement maternelle à l'époque.

Although since then I've become a mother, nine months ago,

Je suis devenue une maman il y a neuf mois,

and I've learned that babies also squirm when you hold them upside down.

et j'ai appris que les enfants aussi sont contrariés si on les tient la tête en bas.

(Laughter)

(Rires)

But my response to this robot was also interesting

Mais ma réaction vis-à-vis du robot est intéressante

because I knew exactly how this machine worked,

car, en dépit du fait que je savais exactement

comment la machine fonctionnait,

and yet I still felt compelled to be kind to it.

j'ai quand-même ressenti le besoin de lui montrer de l'affection.

And that observation sparked a curiosity

Cette observation a piqué ma curiosité

that I've spent the past decade pursuing.

et cela fait une dizaine d'années que je m'y intéresse.

Why did I comfort this robot?

Pourquoi ai-je consolé ce robot ?

And one of the things I discovered was that my treatment of this machine

Une des choses que j'ai découvertes est que ma réaction avec cette machine

was more than just an awkward moment in my living room,

est davantage qu'un moment bizarre dans mon salon

that in a world where we're increasingly integrating robots into our lives,

et que dans un monde où nous intégrons de plus en plus les robots dans nos vies,

an instinct like that might actually have consequences,

un tel instinct peut avoir des conséquences concrètes,

because the first thing that I discovered is that it's not just me.

car la première chose que j'ai découverte, c'est que je ne suis pas la seule.

In 2007, the Washington Post reported that the United States military

En 2007, le Washington Post a publié un reportage sur l'armée américaine

was testing this robot that defused land mines.

qui faisait des essais avec un robot détonateur de mines antipersonnel.

And the way it worked was it was shaped like a stick insect

Le robot avait la forme d'un phasme.

and it would walk around a minefield on its legs,

Il marchait dans les champs de mines

and every time it stepped on a mine, one of the legs would blow up,

et chaque fois qu'une de ses pattes en touchait une, elle explosait.

and it would continue on the other legs to blow up more mines.

Le robot continuait de chercher d'autres mines sur ses pattes restantes.

And the colonel who was in charge of this testing exercise

Le colonel responsable de cet essai

ends up calling it off,

a fini par arrêter le programme,

because, he says, it's too inhumane

car, selon lui, c'était trop inhumain

to watch this damaged robot drag itself along the minefield.

d'observer le robot endommagé se traîner dans les champs de mines.

Now, what would cause a hardened military officer

Qu'est-ce qui peut bien susciter chez un militaire endurci

and someone like myself

et quelqu'un comme moi

to have this response to robots?

une telle réaction vis-à-vis des robots ?

Well, of course, we're primed by science fiction and pop culture

Il est vrai que nous sommes poussés par la science-fiction et la culture pop

to really want to personify these things,

à concevoir de l'anthropomorphisme pour ces objets.

but it goes a little bit deeper than that.

Mais c'est un peu plus compliqué que ça.

It turns out that we're biologically hardwired to project intent and life

En fait, nous sommes biologiquement conçus pour projeter intention et vie

onto any movement in our physical space that seems autonomous to us.

dans toutes les choses animées dans notre espace physique qui paraissent autonomes.

So people will treat all sorts of robots like they're alive.

Dès lors, on traite toutes sortes de robots comme s'ils étaient vivants.

These bomb-disposal units get names.

On donne des noms aux engins de déminage

They get medals of honor.

et on leur remettait des médailles.

They've had funerals for them with gun salutes.

Ils ont même eu des funérailles avec salve d'honneur.

And research shows that we do this even with very simple household robots,

Les recherches éclairent le fait que nous agissons ainsi avec nos robots ménagers

like the Roomba vacuum cleaner.

comme l'aspirateur Roomba.

(Laughter)

(Rires)

It's just a disc that roams around your floor to clean it,

C'est un simple disque qui déambule sur le sol pour le nettoyer,

but just the fact it's moving around on its own

mais le seul fait de se mouvoir autours de nous

will cause people to name the Roomba

incite les gens à lui donner un nom

and feel bad for the Roomba when it gets stuck under the couch.

et à ressentir de la peine pour le Roomba quand celui-ci est coincé.

(Laughter)

(Rires)

And we can design robots specifically to evoke this response,

On peut concevoir des robots précisément pour susciter cette réaction,

using eyes and faces or movements

en utilisant des yeux et un visage ou des mouvements

that people automatically, subconsciously associate

que les gens vont automatiquement associer inconsciemment

with states of mind.

à des états d'esprit.

And there's an entire body of research called human-robot interaction

Il y a un champ de recherche entier, l'interaction humains - robots,

that really shows how well this works.

qui explique ces mécanismes.

So for example, researchers at Stanford University found out

Par exemple, des chercheurs de l'Université de Stanford ont découvert

that it makes people really uncomfortable

que ça met les gens très mal à l'aise

when you ask them to touch a robot's private parts.

quand on leur demande de toucher les parties intimes d'un robot.

(Laughter)

(Rires)

So from this, but from many other studies,

De ces réactions, et d'autres recherches,

we know, we know that people respond to the cues given to them

nous savons que les gens réagissent à des indices qui leur sont tendus

by these lifelike machines,

par ces engins mimant la vie,

even if they know that they're not real.

même quand ils savent que ces engins ne sont pas vivants.

Now, we're headed towards a world where robots are everywhere.

Notre avenir sera rempli de robots.

Robotic technology is moving out from behind factory walls.

La technologie robotique est en train de sortir des usines.

It's entering workplaces, households.

Elle intègre le lieu de travail, le domicile.

And as these machines that can sense and make autonomous decisions and learn

Alors que ces machines autonomes qui peuvent sentir,

prendre des décisions et apprendre, intègrent notre environnement de vie,

enter into these shared spaces,

I think that maybe the best analogy we have for this

je pense que la meilleure analogie à disposition

is our relationship with animals.

est notre relation avec les animaux.

Thousands of years ago, we started to domesticate animals,

Il y a des milliers d'années, on a domestiqué les animaux

and we trained them for work and weaponry and companionship.

et on les a entraînés au travail, à la guerre et à devenir nos compagnons.

And throughout history, we've treated some animals like tools or like products,

Durant l'histoire, on a traité certaines bêtes comme des outils ou des marchandises

and other animals, we've treated with kindness

et on a traité d'autres animaux avec affection,

and we've given a place in society as our companions.

on leur a donné une place dans la société en tant que compagnons.

I think it's plausible we might start to integrate robots in similar ways.

Je pense plausible que nous commencions à intégrer les robots de la même manière.

And sure, animals are alive.

Certes, les animaux sont vivants.

Robots are not.

Les robots ne le sont pas.

And I can tell you, from working with roboticists,

Et mon expérience avec des ingénieurs en robotique me permet d'affirmer

that we're pretty far away from developing robots that can feel anything.

qu'on est loin de concevoir des robots qui ressentent quoi que ce soit.

But we feel for them,

Mais nous éprouvons des sentiments à leur égard

and that matters,

et c'est crucial.

because if we're trying to integrate robots into these shared spaces,

Car si nous tentons d'intégrer des robots dans nos espaces de vie,

we need to understand that people will treat them differently than other devices,

il faut comprendre qu'on ne va pas les traiter comme d'autres objets

and that in some cases,

et que dans certains cas,

for example, the case of a soldier who becomes emotionally attached

par exemple, celui du soldat qui s'est attaché affectivement

to the robot that they work with,

au robot avec lequel il travaille,

that can be anything from inefficient to dangerous.

ça peut devenir improductif, voire dangereux.

But in other cases, it can actually be useful

Dans d'autres cas toutefois, ça peut être utile

to foster this emotional connection to robots.

de nourrir une connexion émotionnelle avec un robot.

We're already seeing some great use cases,

Il y a des usages fabuleux,

for example, robots working with autistic children

comme par exemple les robots qui travaillent avec des enfants autistes.

to engage them in ways that we haven't seen previously,

Ils créent un lien avec eux jamais constaté auparavant.

or robots working with teachers to engage kids in learning with new results.

Il y a aussi des robots aux côtés des enseignants

pour pousser, avec succès, les enfants à apprendre.

And it's not just for kids.

Il n'y a pas que les enfants.

Early studies show that robots can help doctors and patients

Des études montrent que les robots peuvent assister médecins et infirmières

in health care settings.

dans le milieu des soins de la santé.

This is the PARO baby seal robot.

PARO est un robot bébé phoque.

It's used in nursing homes and with dementia patients.

Il est utilisé dans des maisons pour patients atteints de démence.

It's been around for a while.

Ça fait déjà un certain temps.

And I remember, years ago, being at a party

Je me souviens d'une soirée, il y a des années,

and telling someone about this robot,

où j'avais parlé de ce robot à quelqu'un.

and her response was,

Et cette personne avait réagi ainsi :

"Oh my gosh.

« Oh mon dieu !

That's horrible.

C'est horrible.

I can't believe we're giving people robots instead of human care."

Je ne peux pas croire qu'on donne aux gens des robots à la place d'attention. »

And this is a really common response,

C'était une réaction habituelle

and I think it's absolutely correct,

et qui est correcte, je pense,

because that would be terrible.

car en effet, ce serait terrible.

But in this case, it's not what this robot replaces.

Dans ce cas, le robot ne remplace pas l'homme.

What this robot replaces is animal therapy

C'est de la thérapie animale

in contexts where we can't use real animals

dans un contexte où on ne peut pas utiliser des animaux.

but we can use robots,

Mais on peut utiliser des robots

because people will consistently treat them more like an animal than a device.

car les gens vont les traiter davantage comme un animal que comme un robot.

Acknowledging this emotional connection to robots

Reconnaître cette connexion émotionnelle aux robots

can also help us anticipate challenges

peut aussi nous aider à anticiper les défis

as these devices move into more intimate areas of people's lives.

liés au fait que ces engins intègrent les espaces intimes de nos vies.

For example, is it OK if your child's teddy bear robot

Par exemple, serait-il acceptable que le robot nounours de votre enfant

records private conversations?

enregistre des conversations privées ?

Is it OK if your sex robot has compelling in-app purchases?

Serait-il tolérable que votre robot sexuel ait une fonction d'achat attractive ?

(Laughter)

(Rires)

Because robots plus capitalism

Car robots plus capitalisme

equals questions around consumer protection and privacy.

égalent les questions sur la protection du consommateur et la vie privée.

And those aren't the only reasons

Ce ne sont pas les seules raisons

that our behavior around these machines could matter.

pour lesquelles nos comportements avec ces engins sont importants.

A few years after that first initial experience I had

Quelques années après ma première expérience

with this baby dinosaur robot,

avec le robot bébé dinosaure,

I did a workshop with my friend Hannes Gassert.

j'ai organisé un atelier avec mon ami Hannes Gassert.

And we took five of these baby dinosaur robots

On a pris cinq robots bébés dinosaures

and we gave them to five teams of people.

que l'on a remis à cinq équipes.

And we had them name them

Elles devaient leur donner un nom,

and play with them and interact with them for about an hour.

jouer avec et interagir avec eux pendant une heure environ.

And then we unveiled a hammer and a hatchet

Ensuite, on leur a remis un marteau et une hache

and we told them to torture and kill the robots.

et on leur a demandé de torturer et tuer les robots.

(Laughter)

(Rires)

And this turned out to be a little more dramatic

La situation est devenue beaucoup plus tendue

than we expected it to be,

que ce que nous avions pensé

because none of the participants would even so much as strike

car aucun participant n'a voulu faire de mal

these baby dinosaur robots,

aux robots bébés dinosaures.

so we had to improvise a little, and at some point, we said,

Du coup, on a dû improviser et leur dire ceci :

"OK, you can save your team's robot if you destroy another team's robot."

« D'accord. Vous pouvez sauver votre robot si vous détruisez celui des autres. »

(Laughter)

(Rires)

And even that didn't work. They couldn't do it.

Même ça, ça n'a pas marché. Ils n'y arrivaient pas.

So finally, we said,

Alors on leur a dit :

"We're going to destroy all of the robots

« On va détruire tous les robots

unless someone takes a hatchet to one of them."

si personne n'en casse un à la hache. »

And this guy stood up, and he took the hatchet,

Alors, un type s'est levé et a pris la hache.

and the whole room winced as he brought the hatchet down

Toute l'assemblée a grimacé quand il l'a abattue

on the robot's neck,

sur le cou du robot.

and there was this half-joking, half-serious moment of silence in the room

Un silence s'est installé dans la salle, mi-sérieux, mi-plaisanterie,

for this fallen robot.

pour le robot tombé.

(Laughter)

(Rires)

So that was a really interesting experience.

C'était une expérience vraiment intéressante.

Now, it wasn't a controlled study, obviously,

Ce n'était pas une expérience contrôlée

but it did lead to some later research that I did at MIT

mais elle a mené à des recherches ultérieures au MIT

with Palash Nandy and Cynthia Breazeal,

que j'ai conduites avec Palash Nandy et Cynthia Breazeal.

where we had people come into the lab and smash these HEXBUGs

Nous invitions des gens dans le labo pour écraser ces HEXBUGs

that move around in a really lifelike way, like insects.

qui se meuvent très réalistement, comme des insectes.

So instead of choosing something cute that people are drawn to,

Au lieu de choisir des objets mignons qui attirent les gens,

we chose something more basic,

on a choisi quelque chose de plus basique.

and what we found was that high-empathy people

Nous avons découvert que les gens avec une grande empathie

would hesitate more to hit the HEXBUGS.

hésitaient davantage à frapper les HEXBUGs.

Now this is just a little study,

C'est une petite étude

but it's part of a larger body of research

qui fait partie d'un grand champ de recherches

that is starting to indicate that there may be a connection

qui semble indiquer qu'il pourrait y avoir un lien

between people's tendencies for empathy

entre les tendances pour l'empathie des gens

and their behavior around robots.

et leur comportement avec des robots.

But my question for the coming era of human-robot interaction

Ma question cruciale pour l'ère prochaine d'interactions hommes - robots

is not: "Do we empathize with robots?"

n'est pas : « Ressentons-nous de l'empathie pour les robots ? »

It's: "Can robots change people's empathy?"

C'est : « Les robots peuvent-ils changer l'empathie des gens ? »

Is there reason to, for example,

Y a-t-il une bonne raison pour, par exemple,

prevent your child from kicking a robotic dog,

empêcher votre enfant de frapper un robot-chien,

not just out of respect for property,

non pas pour le respect des biens,

but because the child might be more likely to kick a real dog?

mais parce que ça pourrait le rendre plus susceptible de frapper un vrai chien ?

And again, it's not just kids.

À nouveau, il n'y a pas que les enfants.

This is the violent video games question, but it's on a completely new level

C'est le débat des jeux vidéo violents, mais à un tout autre niveau,

because of this visceral physicality that we respond more intensely to

à cause de cette réaction physique et viscérale plus intense

than to images on a screen.

que celle ressentie face à des images sur écran.

When we behave violently towards robots,

Si nous agissons avec violence vis-à-vis des robots,

specifically robots that are designed to mimic life,

des robots conçus pour imiter la vie,

is that a healthy outlet for violent behavior

est-ce un exutoire sain des comportements violents

or is that training our cruelty muscles?

ou bien est-ce en train de nourrir notre cruauté ?

We don't know ...

On ne sait pas.

But the answer to this question has the potential to impact human behavior,

Toutefois la réponse peut influencer les comportements humains,

it has the potential to impact social norms,

elle peut influencer les normes sociales,

it has the potential to inspire rules around what we can and can't do

elle peut inspirer des règles sur ce qu'on peut et ne peut pas faire

with certain robots,

avec certains robots,

similar to our animal cruelty laws.

à l'instar des lois contre la cruauté envers les animaux.

Because even if robots can't feel,

Même si les robots ne ressentent pas,

our behavior towards them might matter for us.

notre comportement à leur égard est important pour nous-mêmes.

And regardless of whether we end up changing our rules,

Que nous changions ou pas nos réglementations,

robots might be able to help us come to a new understanding of ourselves.

les robots pourraient nous offrir une compréhension nouvelle de nous-mêmes.

Most of what I've learned over the past 10 years

Tout ce que j'ai appris ces dix dernières années,

has not been about technology at all.

ne concerne pas la technologie.

It's been about human psychology

Il s'agit de la psychologie de l'homme,

and empathy and how we relate to others.

de l'empathie et de la façon dont nous nous lions avec autrui.

Because when a child is kind to a Roomba,

Car quand un enfant est gentil avec Roomba,

when a soldier tries to save a robot on the battlefield,

qu'un soldat tente de sauver un robot sur le champ de bataille

or when a group of people refuses to harm a robotic baby dinosaur,

ou qu'un groupe de personnes refuse d'abîmer un robot bébé dinosaure,

those robots aren't just motors and gears and algorithms.

ces robots ne sont plus que des moteurs, des engrenages et des algorithmes.

They're reflections of our own humanity.

Ils deviennent le reflet de notre propre humanité.

Thank you.

Merci.

(Applause)

(Applaudissements)