Why we have an emotional connection to robots | Kate Darling

Translator: Joseph Geni Reviewer: Krystian Aparta

Übersetzung: Max Hohenschutz Lektorat: Angelika Lueckert Leon

An einem Tag vor etwa zehn Jahren

There was a day, about 10 years ago,

when I asked a friend to hold a baby dinosaur robot upside down.

ließ ich einen Freund einen Baby-Dino-Roboter kopfüber halten.

It was this toy called a Pleo that I had ordered,

Es war ein Spielzeug namens Pleo, das ich mir bestellt hatte.

and I was really excited about it because I've always loved robots.

Ich freute mich sehr darauf, denn ich liebe Roboter.

And this one has really cool technical features.

Dieser hatte echt coole technische Features.

It had motors and touch sensors

Er hatte Motoren, Tastsensoren und eine Infrarotkamera

and it had an infrared camera.

And one of the things it had was a tilt sensor,

und dann besaß er einen Neigungssensor.

so it knew what direction it was facing.

Er kannte also seine Ausrichtung im Raum.

And when you held it upside down,

Wenn man ihn kopfüber hielt,

it would start to cry.

würde er anfangen zu heulen.

And I thought this was super cool, so I was showing it off to my friend,

Das fand ich supercool und zeigte ich ihn daher einer Freundin,

and I said, "Oh, hold it up by the tail. See what it does."

ich sagte: "Hey, heb ihn am Schwanz hoch. Schau was er macht."

So we're watching the theatrics of this robot

Wir schauten uns also das Agieren des Roboters an,

struggle and cry out.

wie er leidet und heult.

And after a few seconds,

Nach ein paar Sekunden

it starts to bother me a little,

fing es an mich ein wenig zu stören,

and I said, "OK, that's enough now.

und ich sagte: "Okay, das reicht.

Let's put him back down."

Lassen wir ihn wieder runter."

And then I pet the robot to make it stop crying.

Dann streichelte ich den Roboter, damit er zu heulen aufhörte.

And that was kind of a weird experience for me.

Das war eine etwas seltsame Erfahrung für mich.

For one thing, I wasn't the most maternal person at the time.

Ich war nämlich zu dieser Zeit nicht besonders mütterlich.

Although since then I've become a mother, nine months ago,

Wobei ich vor 9 Monaten Mutter geworden bin,

and I've learned that babies also squirm when you hold them upside down.

und jetzt weiß, dass kopfüber gehaltene Babies sich auch wehren.

(Laughter)

(Gelächter)

But my response to this robot was also interesting

Aber meine Reaktion auf den Roboter war auch interessant,

because I knew exactly how this machine worked,

da ich genau wusste, wie diese Maschine funktioniert,

and yet I still felt compelled to be kind to it.

und dennoch fühlte ich mich veranlasst, lieb zu ihr zu sein.

And that observation sparked a curiosity

Diese Erkenntnis entfachte eine Neugier,

that I've spent the past decade pursuing.

der ich die letzten Jahre nachgegangen bin.

Why did I comfort this robot?

Warum tröstete ich diesen Roboter?

And one of the things I discovered was that my treatment of this machine

Eine Erkenntnis war, dass mein Umgang mit dieser Maschine

was more than just an awkward moment in my living room,

mehr als nur ein verlegener Moment in meinem Wohnzimmer war

that in a world where we're increasingly integrating robots into our lives,

und dass in einer Welt, in die wir immer mehr Roboter integrieren,

an instinct like that might actually have consequences,

ein solcher Instinkt Konsequenzen haben könnte.

because the first thing that I discovered is that it's not just me.

Denn meine erste Entdeckung war, dass das nicht nur mich betrifft.

In 2007, the Washington Post reported that the United States military

Im Jahr 2007 meldete The Washington Post, dass das US-amerikanische Militär

was testing this robot that defused land mines.

einen Roboter testete, der Landminen entschärfen sollte.

And the way it worked was it was shaped like a stick insect

Gebaut wie eine Stabheuschrecke, funktionierte er so,

and it would walk around a minefield on its legs,

dass er in einem Minenfeld auf seinen Beinen herumlief

and every time it stepped on a mine, one of the legs would blow up,

und jedes Mal, wenn er auf eine Mine trat und ein Bein explodierte,

and it would continue on the other legs to blow up more mines.

lief er auf den übrigen Beinen weiter, um mehr Minen zu finden.

And the colonel who was in charge of this testing exercise

Der zuständige Oberst dieses Tests beschloss ihn abzublasen,

ends up calling it off,

because, he says, it's too inhumane

weil es zu unmenschlich wäre,

to watch this damaged robot drag itself along the minefield.

den beschädigten Roboter zu beobachten wie er sich über das Feld schleppt.

Now, what would cause a hardened military officer

Was veranlasst einen abgehärteten Militäroffizier

and someone like myself

und jemanden wie mich,

to have this response to robots?

so auf einen Roboter zu reagieren?

Well, of course, we're primed by science fiction and pop culture

Natürlich sind wir durch Science-Fiction und Popkultur geprägt

to really want to personify these things,

und möchten diese Dinge vermenschlichen,

but it goes a little bit deeper than that.

aber es ist etwas tiefgehender als das.

It turns out that we're biologically hardwired to project intent and life

Wir sind nämlich genetisch programmiert Absicht und Leben

onto any movement in our physical space that seems autonomous to us.

auf jede selbstständige Bewegung unserer Umgebung zu projizieren.

So people will treat all sorts of robots like they're alive.

Deswegen behandeln Menschen alle Arten von Robotern wie Lebewesen.

These bomb-disposal units get names.

Diese Bombenentschärfungsroboter erhalten Namen.

They get medals of honor.

Sie erhalten Ehrenmedaillen.

They've had funerals for them with gun salutes.

Sie hatten Beerdigungen mit Salutschüssen.

And research shows that we do this even with very simple household robots,

Studien zeigen, dass wir das sogar mit einfachen Hausrobotern machen,

like the Roomba vacuum cleaner.

wie dem Roomba-Staubsauger.

(Laughter)

(Gelächter)

It's just a disc that roams around your floor to clean it,

Das ist nur eine fahrende Scheibe, die unseren Boden säubert,

but just the fact it's moving around on its own

aber allein, dass sie sich frei bewegt,

will cause people to name the Roomba

veranlasst Leute, ihr einen Namen zu geben

and feel bad for the Roomba when it gets stuck under the couch.

und Mitleid zu empfinden, wenn sie unter dem Sofa feststeckt.

(Laughter)

(Gelächter)

And we can design robots specifically to evoke this response,

Wir können Roboter entwickeln, um genau diese Reaktionen herbeizurufen

using eyes and faces or movements

durch Integrierung von Augen, Gesichtern und Bewegungen,

that people automatically, subconsciously associate

die automatisch unterbewusst als Gemütszustand verstanden werden.

with states of mind.

And there's an entire body of research called human-robot interaction

Es gibt ein ganzes Forschungsgebiet, genannt Mensch-Roboter-Interaktion,

that really shows how well this works.

das zeigt, wie gut das funktioniert.

So for example, researchers at Stanford University found out

So fanden Forscher an der Stanford-Universität heraus,

that it makes people really uncomfortable

dass es für Probanden unangenehm ist,

when you ask them to touch a robot's private parts.

den Intimbereich eines Roboters berühren zu müssen.

(Laughter)

(Gelächter)

So from this, but from many other studies,

Von dieser und vielen anderen Studien

we know, we know that people respond to the cues given to them

wissen wir, dass Menschen auf die Signale

by these lifelike machines,

dieser lebendig erscheinenden Maschinen reagieren,

even if they know that they're not real.

auch im Wissen, dass sie nicht echt sind.

Now, we're headed towards a world where robots are everywhere.

Nun rücken wir näher an eine Welt, wo Roboter überall sind.

Robotic technology is moving out from behind factory walls.

Robotertechnik verlässt die Fabrikhallen

It's entering workplaces, households.

und kommt im Arbeitsalltag und unseren Haushalten an.

And as these machines that can sense and make autonomous decisions and learn

Da diese Maschinen, die fühlen können,

selbständig Entscheidungen treffen und lernen können,

nun in diese gemeinsamen Räume eintreten,

enter into these shared spaces,

I think that maybe the best analogy we have for this

ist die beste Analogie dafür

is our relationship with animals.

vielleicht unsere Beziehung mit Haustieren.

Thousands of years ago, we started to domesticate animals,

Vor Tausenden von Jahren begannen wir Haustiere zu halten,

and we trained them for work and weaponry and companionship.

wir trainierten sie als Arbeiter, Waffen oder Begleiter.

And throughout history, we've treated some animals like tools or like products,

Wir behandelten manche Tiere wie Werkzeug oder Ware,

and other animals, we've treated with kindness

während wir andere liebevoll behandelten

and we've given a place in society as our companions.

und sie als Begleiter in unserer Gesellschaft aufnahmen.

I think it's plausible we might start to integrate robots in similar ways.

Es ist möglich, dass wir anfangen, Roboter gleichermaßen zu integrieren.

And sure, animals are alive.

Natürlich, Tiere sind lebendig,

Robots are not.

Roboter sind es nicht.

And I can tell you, from working with roboticists,

Durch die Zusammenarbeit mit Roboteringenieuren weiß ich,

that we're pretty far away from developing robots that can feel anything.

dass wir noch weit davon entfernt sind, empfindungsfähige Roboter zu bauen.

But we feel for them,

Aber wir empfinden etwas für sie und das zählt,

and that matters,

because if we're trying to integrate robots into these shared spaces,

denn wenn wir versuchen, Roboter in unseren Alltag zu integrieren,

we need to understand that people will treat them differently than other devices,

müssen wir verstehen, dass wir sie anders als normale Geräte behandeln werden,

and that in some cases,

und dass in manchen Fällen,

for example, the case of a soldier who becomes emotionally attached

wie beim Soldaten, der sich emotional an seinen Roboterkollegen bindet,

to the robot that they work with,

that can be anything from inefficient to dangerous.

das ineffizient bis gefährlich sein kann.

But in other cases, it can actually be useful

Andererseits kann es auch nützlich sein,

to foster this emotional connection to robots.

diese emotionale Verbindung zu Robotern zu fördern.

We're already seeing some great use cases,

Wir kennen schon einige tolle Anwendungen,

for example, robots working with autistic children

beispielsweise Roboter für autistische Kinder,

to engage them in ways that we haven't seen previously,

die sie auf eine noch nie gesehene Art und Weise beschäftigen,

or robots working with teachers to engage kids in learning with new results.

oder Roboter, die mit Lehrern arbeiten, um Kinder beim Lernen zu unterstützen.

And it's not just for kids.

Das gilt nicht nur für Kinder.

Early studies show that robots can help doctors and patients

Erste Studien zeigen, Roboter können im Gesundheitswesen

in health care settings.

für Ärzte und Patienten nützlich sein.

This is the PARO baby seal robot.

Das ist der Baby-Robben-Roboter PARO.

It's used in nursing homes and with dementia patients.

Er wird in Pflegeheimen und bei dementen Patienten verwendet.

It's been around for a while.

Es gibt ihn schon länger.

And I remember, years ago, being at a party

Vor ein paar Jahren auf einer Party

and telling someone about this robot,

sprach ich mit jemandem über diesen Roboter

and her response was,

und ihre Reaktion war:

"Oh my gosh.

"Meine Güte.

That's horrible.

Das ist ja entsetzlich.

I can't believe we're giving people robots instead of human care."

Kaum zu glauben, dass wir Leuten Roboter statt Menschen als Pfleger geben."

And this is a really common response,

Das ist eine ziemlich häufige Reaktion,

and I think it's absolutely correct,

und meiner Ansicht nach ist sie komplett richtig,

because that would be terrible.

denn das wäre schrecklich.

But in this case, it's not what this robot replaces.

Aber der Roboter ersetzt hier etwas anderes.

What this robot replaces is animal therapy

Er ersetzt die Tier-Therapie

in contexts where we can't use real animals

in Situationen, wo wir keine echten Tiere verwenden können,

but we can use robots,

aber Roboter eben schon,

because people will consistently treat them more like an animal than a device.

da Menschen sie konsequent eher wie ein Tier als ein Gerät behandeln.

Acknowledging this emotional connection to robots

Diese emotionale Bindung zu Robotern anzuerkennen,

can also help us anticipate challenges

kann uns helfen, Probleme vorauszuahnen,

as these devices move into more intimate areas of people's lives.

da diese Maschinen Teil des persönlichen Lebens werden.

For example, is it OK if your child's teddy bear robot

Ist es zum Beispiel okay, wenn der Teddybär Ihres Kindes

records private conversations?

private Gespräche aufzeichnet?

Is it OK if your sex robot has compelling in-app purchases?

Ist es okay, wenn ihr Sexroboter verlockende in-App-Angebote hat?

(Laughter)

(Gelächter)

Because robots plus capitalism

Denn Roboter plus Kapitalismus

equals questions around consumer protection and privacy.

bedingt Fragen über Privatsphäre und Verbraucherschutz.

And those aren't the only reasons

Nicht nur deswegen ist unser Umgang mit diesen Maschinen bedeutend.

that our behavior around these machines could matter.

A few years after that first initial experience I had

Ein paar Jahre nach diesem ersten Erlebnis

with this baby dinosaur robot,

mit dem Baby-Dino-Roboter,

I did a workshop with my friend Hannes Gassert.

hielt ich ein Seminar mit meinem Freund Hannes Gassert.

And we took five of these baby dinosaur robots

Dort nahmen wir 5 dieser Baby-Dino-Roboter

and we gave them to five teams of people.

und gaben sie an fünf Gruppen.

And we had them name them

Wir ließen sie ihnen Namen geben

and play with them and interact with them for about an hour.

und für eine Stunde mit ihnen spielen und interagieren.

And then we unveiled a hammer and a hatchet

Dann enthüllten wir einen Hammer und ein Beil

and we told them to torture and kill the robots.

und riefen sie auf die Roboter zu quälen und zu töten.

(Laughter)

(Gelächter)

And this turned out to be a little more dramatic

Das erwies sich als dramatischer als erwartet,

than we expected it to be,

because none of the participants would even so much as strike

da keiner der Teilnehmer es über das Herz brachte

these baby dinosaur robots,

ihren Babydino zu schlagen.

so we had to improvise a little, and at some point, we said,

Also improvisierten wir und schlugen vor:

"Okay, ihr könnt euren Roboter retten, wenn ihr den eines anderen Teams zerstört."

"OK, you can save your team's robot if you destroy another team's robot."

(Laughter)

(Gelächter)

And even that didn't work. They couldn't do it.

Auch das brachte keiner übers Herz.

So finally, we said,

Als letztes drohten wir:

"We're going to destroy all of the robots

"Wir zerstören alle eure Roboter,

unless someone takes a hatchet to one of them."

es sei denn jemand schlägt mit dem Beil auf einen."

And this guy stood up, and he took the hatchet,

Dieser eine Kerl stand auf, nahm das Beil

and the whole room winced as he brought the hatchet down

und der ganze Raum zuckte zusammen als er das Beil

on the robot's neck,

auf das Genick des Roboters hämmerte.

and there was this half-joking, half-serious moment of silence in the room

Es entstand diese halb scherzhafte, halb ernste Stille im Raum

for this fallen robot.

wegen des kaputten Roboters.

(Laughter)

(Gelächter)

So that was a really interesting experience.

Das war ein echt interessantes Erlebnis.

Now, it wasn't a controlled study, obviously,

Natürlich war das keine kontrollierte Studie,

but it did lead to some later research that I did at MIT

aber es führte zu weiterer Forschung, die ich am MIT zusammen

with Palash Nandy and Cynthia Breazeal,

mit Palash Nandy und Cynthia Breazal durchführte.

where we had people come into the lab and smash these HEXBUGs

Dort luden wir Leute in unser Labor ein, um diese HEXBUGs zu zerschlagen,

that move around in a really lifelike way, like insects.

die sich wie lebende Insekten bewegen.

So instead of choosing something cute that people are drawn to,

Anstatt etwas Niedliches zu wählen, was sympathisch wirkt,

we chose something more basic,

nahmen wir etwas Einfacheres.

and what we found was that high-empathy people

So fanden wir heraus, dass empathischere Menschen

would hesitate more to hit the HEXBUGS.

eher zögern, den HEXBUG zu schlagen.

Now this is just a little study,

Das ist nur eine kleine Studie,

but it's part of a larger body of research

die aber Teil einer größeren Forschungsarbeit ist.

that is starting to indicate that there may be a connection

Diese deutet immer mehr darauf hin, dass es eine Verbindung gibt

between people's tendencies for empathy

zwischen den empathischen Tendenzen der Probanden

and their behavior around robots.

und ihren Verhalten gegenüber Robotern.

But my question for the coming era of human-robot interaction

Aber meine Frage für die kommende Ära der Mensch-Roboter-Interaktion

is not: "Do we empathize with robots?"

ist nicht: "Fühlen wir mit Robotern mit?",

It's: "Can robots change people's empathy?"

sondern: "Können Roboter menschliches Mitgefühl verändern?"

Is there reason to, for example,

Gibt es Gründe, zum Beispiel,

prevent your child from kicking a robotic dog,

ihr Kind vom Treten eines Robohundes abzuhalten,

not just out of respect for property,

nicht nur aus purem Respekt vor Eigentum,

but because the child might be more likely to kick a real dog?

sondern weil ihr Kind dann eher einen echten Hund treten würde?

And again, it's not just kids.

Nochmal, es geht nicht nur um Kinder.

This is the violent video games question, but it's on a completely new level

Es erinnert an die Frage über Gewalt in Videospielen,

nur auf einem ganz neuem Level.

because of this visceral physicality that we respond more intensely to

Denn auf diese instinktiven Körperkontakte reagieren wir intensiver

than to images on a screen.

als auf Bilder am Bildschirm.

When we behave violently towards robots,

Wenn wir Roboter gewaltsam behandeln,

specifically robots that are designed to mimic life,

besonders lebensähnliche Roboter,

is that a healthy outlet for violent behavior

ist das eine gesunde Art, Gewalt auszuleben,

or is that training our cruelty muscles?

oder Training für unsere grausame Seite?

We don't know ...

Das wissen wir nicht ...

But the answer to this question has the potential to impact human behavior,

Aber die Antwort auf diese Frage könnte menschliche Verhaltensmuster verändern.

it has the potential to impact social norms,

Sie hat das Potential, soziale Normen zu beeinflussen,

it has the potential to inspire rules around what we can and can't do

und Regeln anzuregen, was wir tun und nicht tun dürfen

with certain robots,

mit bestimmen Robotern,

similar to our animal cruelty laws.

analog zu den Gesetzen zur Tierquälerei.

Because even if robots can't feel,

Denn auch wenn Roboter nichts fühlen,

our behavior towards them might matter for us.

unser Verhalten ihnen gegenüber kann für uns wichtig sein.

And regardless of whether we end up changing our rules,

Egal ob wir unsere Regeln ändern,

robots might be able to help us come to a new understanding of ourselves.

Roboter könnten uns helfen uns selbst besser zu verstehen.

Most of what I've learned over the past 10 years

In den letzten 10 Jahren habe ich eher wenig über Technologie gelernt,

has not been about technology at all.

It's been about human psychology

sondern vor allem über Psychologie,

and empathy and how we relate to others.

Empathie und gegenseitigen Umgang.

Because when a child is kind to a Roomba,

Wenn ein Kind nämlich nett zum Roomba ist,

when a soldier tries to save a robot on the battlefield,

wenn ein Soldat versucht, einen Roboter im Schlachtfeld zu retten,

or when a group of people refuses to harm a robotic baby dinosaur,

oder wenn eine Gruppe ablehnt, einem mechanischen Babydino zu schaden,

those robots aren't just motors and gears and algorithms.

dann sind diese Roboter nicht nur Motoren, Gewinde und Algorithmen.

They're reflections of our own humanity.

Sie sind Spiegelungen unserer eigenen Menschlichkeit.

Thank you.

Danke schön.

(Applause)

(Applaus)