Why we have an emotional connection to robots | Kate Darling

Translator: Joseph Geni Reviewer: Krystian Aparta

Μετάφραση: Anthi Lakka Επιμέλεια: Thanassis Zadrimas

There was a day, about 10 years ago,

Μια μέρα πριν περίπου 10 χρόνια,

when I asked a friend to hold a baby dinosaur robot upside down.

ζήτησα από μια φίλη να κρατήσει ανάποδα ένα ρομπότ μωρό δεινόσαυρο.

It was this toy called a Pleo that I had ordered,

Ήταν ένα παιχνίδι, ο Πλίο, που είχα παραγγείλει

and I was really excited about it because I've always loved robots.

και ήμουν ενθουσιασμένη γιατί λατρεύω τα ρομπότ.

And this one has really cool technical features.

Το συγκεκριμένο είχε ωραία τεχνικά χαρακτηριστικά.

It had motors and touch sensors

Είχε μοτέρ, αισθητήρες αφής

and it had an infrared camera.

και κάμερα υπερύθρων.

And one of the things it had was a tilt sensor,

Είχε και αισθητήρα κλίσης,

so it knew what direction it was facing.

οπότε γνώριζε σε ποια κατεύθυνση κοιτούσε.

And when you held it upside down,

Όταν το κρατούσες με το κεφάλι κάτω,

it would start to cry.

έβαζε τα κλάματα.

And I thought this was super cool, so I was showing it off to my friend,

Το έβρισκα εκπληκτικό και ήθελα να το δει η φίλη μου.

Της είπα «Κράτα το από την ουρά να δεις τι κάνει».

and I said, "Oh, hold it up by the tail. See what it does."

So we're watching the theatrics of this robot

Κοιτούσαμε τα καμώματά του.

struggle and cry out.

Να χτυπιέται και να φωνάζει.

And after a few seconds,

Έπειτα από λίγα λεπτά

it starts to bother me a little,

το θέαμα αρχίζει να με ενοχλεί κάπως

and I said, "OK, that's enough now.

και λέω, εντάξει «Φτάνει για τώρα

Let's put him back down."

Ας τον αφήσουμε κάτω».

And then I pet the robot to make it stop crying.

Και τον χάιδεψα για να σταματήσει το κλάμα.

And that was kind of a weird experience for me.

Μου ήταν μια αλλόκοτη εμπειρία.

For one thing, I wasn't the most maternal person at the time.

Πρώτα απ' όλα, δεν είχα τότε και το πιο έντονο μητρικό ένστικτο.

Although since then I've become a mother, nine months ago,

Αργότερα, όμως, πριν εννιά μήνες, έγινα μητέρα

and I've learned that babies also squirm when you hold them upside down.

και έμαθα πως και τα μωρά κάνουν έτσι όταν τα κρατάς ανάποδα.

(Laughter)

(Γέλια)

But my response to this robot was also interesting

Επιπλέον, η αντίδρασή μου είχε ενδιαφέρον

because I knew exactly how this machine worked,

επειδή γνώριζα ακριβώς πώς λειτουργούσε αυτό το μηχάνημα,

and yet I still felt compelled to be kind to it.

και παρ' όλα αυτά ένιωσα την ανάγκη να του δείξω καλοσύνη.

And that observation sparked a curiosity

Αυτή η συνειδητοποίηση πυροδότησε μια περιέργεια

that I've spent the past decade pursuing.

που κρατάει δέκα πια χρόνια

Why did I comfort this robot?

Γιατί παρηγόρησα το ρομπότ;

And one of the things I discovered was that my treatment of this machine

Ανακάλυψα ότι η στάση μου απέναντι σε αυτό το μηχάνημα

was more than just an awkward moment in my living room,

ήταν κάτι σπουδαιότερο από μια αμήχανη στιγμή στο σαλόνι μου.

that in a world where we're increasingly integrating robots into our lives,

Σε έναν κόσμο όπου βάζουμε συνεχώς τα ρομπότ στη ζωή μας

an instinct like that might actually have consequences,

στιγμές σαν εκείνη ίσως να έχουν επιπτώσεις,

because the first thing that I discovered is that it's not just me.

γιατί ανακάλυψα ότι δεν συνέβαινε μόνο με εμένα.

In 2007, the Washington Post reported that the United States military

Το 2007 η Ουάσιγκτον Ποστ έγραψε ότι ο αμερικανικός στρατός

was testing this robot that defused land mines.

έκανε δοκιμές με ένα ρομπότ που εξουδετέρωνε νάρκες εδάφους.

And the way it worked was it was shaped like a stick insect

Είχε σχήμα εντόμου με μακριά πόδια,

and it would walk around a minefield on its legs,

βάδιζε στο ναρκοπέδιο,

and every time it stepped on a mine, one of the legs would blow up,

και όταν πατούσε νάρκη, έχανε ένα από τα πόδια του

and it would continue on the other legs to blow up more mines.

και συνέχιζε με τα υπόλοιπα για να ανατινάξει κι άλλες.

And the colonel who was in charge of this testing exercise

Ο επικεφαλής συνταγματάρχης της άσκησης

ends up calling it off,

την ακύρωσε τελικά,

because, he says, it's too inhumane

γιατί, όπως είπε, ήταν απάνθρωπο

to watch this damaged robot drag itself along the minefield.

να βλέπεις το διαλυμένο ρομπότ να σέρνεται στο ναρκοπέδιο.

Now, what would cause a hardened military officer

Τι προκαλεί σε έναν σκληραγωγημένο αξιωματικό του στρατού

and someone like myself

και κάποια σαν κι εμένα

to have this response to robots?

τέτοια αντίδραση απέναντι σ' ένα ρομπότ;

Well, of course, we're primed by science fiction and pop culture

Η επιστημονική φαντασία και η ποπ κουλτούρα μας προετοιμάζουν

to really want to personify these things,

ώστε να προσωποποιούμε αυτά τα πράγματα.

but it goes a little bit deeper than that.

Αλλά η αιτία είναι βαθύτερη.

It turns out that we're biologically hardwired to project intent and life

Είμαστε εκ γενετής προγραμματισμένοι να αποδίδουμε προθέσεις και ζωή

onto any movement in our physical space that seems autonomous to us.

σε ό,τι κινείται στον χώρο μας και μοιάζει αυτόνομο.

So people will treat all sorts of robots like they're alive.

Γι' αυτό φερόμαστε στα ρομπότ σαν να είναι ζωντανά.

These bomb-disposal units get names.

Δίνουν ονόματα στα μηχανήματα εξουδετέρωσης βομβών.

They get medals of honor.

Τους δίνουν τιμητικά παράσημα.

They've had funerals for them with gun salutes.

Τους κάνουν κηδείες με τιμητικές ρίψεις πυρών.

And research shows that we do this even with very simple household robots,

Έρευνες δείχνουν ότι κάνουμε τέτοια ακόμη και για απλά ρομπότ του σπιτιού,

like the Roomba vacuum cleaner.

όπως τη σκούπα ρομπότ Roomba.

(Laughter)

(Γέλια)

It's just a disc that roams around your floor to clean it,

Είναι ένας δίσκος που περιφέρεται και καθαρίζει το πάτωμα.

but just the fact it's moving around on its own

Αλλά το γεγονός ότι έχει αυτόνομη κίνηση

will cause people to name the Roomba

κάνει τους ανθρώπους να της δίνουν ονόματα

and feel bad for the Roomba when it gets stuck under the couch.

και να τη λυπούνται όταν σφηνώνει στον καναπέ.

(Laughter)

(Γέλια)

And we can design robots specifically to evoke this response,

Μπορούμε να φτιάξουμε ρομπότ με στόχο τέτοιες αντιδράσεις

using eyes and faces or movements

δίνοντάς τους μάτια, πρόσωπα, κινήσεις

that people automatically, subconsciously associate

που αυτόματα, υποσυνείδητα σχετίζουμε με διανοητικές καταστάσεις.

with states of mind.

And there's an entire body of research called human-robot interaction

Υπάρχει τομέας ερευνών που καλείται αλληλεπίδραση ατόμων με ρομπότ

that really shows how well this works.

και δείχνει πόσο καλά λειτουργεί αυτό.

So for example, researchers at Stanford University found out

Για παράδειγμα, ερευνητές στο Στάνφορντ ανακάλυψαν

that it makes people really uncomfortable

ότι οι άνθρωποι νιώθουν άβολα

when you ask them to touch a robot's private parts.

αν πρέπει να αγγίξουν τα ρομπότ στα απόκρυφά τους.

(Laughter)

(Γέλια)

So from this, but from many other studies,

Από αυτή και άλλες μελέτες

we know, we know that people respond to the cues given to them

γνωρίζουμε ότι οι άνθρωποι αντιδρούν στα σήματα

by these lifelike machines,

αυτών των «ζωντανών» μηχανών

even if they know that they're not real.

παρότι ξέρουν πως δεν είναι ζωντανές.

Now, we're headed towards a world where robots are everywhere.

Στον κόσμο μας, μελλοντικά, θα υπάρχουν ρομπότ παντού.

Robotic technology is moving out from behind factory walls.

Η ρομποτική βγαίνει από τα εργοστάσια

It's entering workplaces, households.

και μπαίνει σε χώρους εργασίας, σε σπίτια.

And as these machines that can sense and make autonomous decisions and learn

Καθώς αυτές οι μηχανές που νιώθουν, αποφασίζουν αυτόνομα και μαθαίνουν

enter into these shared spaces,

μπαίνουν στους ίδιους χώρους με εμάς

I think that maybe the best analogy we have for this

ίσως η καλύτερη αναλογία γι' αυτό

is our relationship with animals.

είναι η σχέση μας με τα ζώα.

Thousands of years ago, we started to domesticate animals,

Πριν χιλιάδες χρόνια αρχίσαμε να εξημερώνουμε ζώα.

and we trained them for work and weaponry and companionship.

Τα μάθαμε να δουλεύουν, να πολεμούν και να μας κρατούν συντροφιά.

And throughout history, we've treated some animals like tools or like products,

Και στην πορεία είδαμε κάποια ζώα ως εργαλεία ή προϊόντα

and other animals, we've treated with kindness

και σε άλλα φερθήκαμε με καλοσύνη

and we've given a place in society as our companions.

και τους δώσαμε μια θέση δίπλα μας ως συντρόφους.

I think it's plausible we might start to integrate robots in similar ways.

Νομίζω πως μπορεί να γίνει το ίδιο και με τα ρομπότ.

And sure, animals are alive.

Βέβαια, τα ζώα είναι ζωντανά,

Robots are not.

ενώ τα ρομπότ όχι.

And I can tell you, from working with roboticists,

Και γνωρίζω, αφού εργάζομαι στο χώρο της ρομποτικής,

that we're pretty far away from developing robots that can feel anything.

ότι δεν θα δούμε σύντομα ρομπότ με αισθήματα.

But we feel for them,

Μα, εμείς νοιαζόμαστε γι' αυτά

and that matters,

κι αυτό μετράει.

because if we're trying to integrate robots into these shared spaces,

Αν θέλουμε να βάλουμε τα ρομπότ στους κοινούς μας χώρους,

we need to understand that people will treat them differently than other devices,

πρέπει να γνωρίζουμε ότι θα έχουν διαφορετική μεταχείριση

and that in some cases,

και ότι σε κάποιες περιπτώσεις,

for example, the case of a soldier who becomes emotionally attached

όπως κάποιου στρατιώτη που δένεται συναισθηματικά

to the robot that they work with,

με το ρομπότ στη δουλειά του,

that can be anything from inefficient to dangerous.

μπορεί αυτό να αποδειχθεί ανεπαρκές έως επικίνδυνο.

But in other cases, it can actually be useful

Όμως, αλλού μπορεί να είναι ωφέλιμο

to foster this emotional connection to robots.

να ενισχυθεί ο συναισθηματικός δεσμός με τα ρομπότ.

We're already seeing some great use cases,

Βλέπουμε ήδη τέτοιες περιπτώσεις

for example, robots working with autistic children

όπου ρομπότ δουλεύουν με αυτιστικά παιδιά

to engage them in ways that we haven't seen previously,

και τα κάνουν να συμμετέχουν με πρωτόγνωρους τρόπους.

or robots working with teachers to engage kids in learning with new results.

Ή ρομπότ να δουλεύουν με δασκάλους για να εντάξουν παιδιά στο σχολείο.

And it's not just for kids.

Δεν είναι μόνο για τα παιδιά.

Early studies show that robots can help doctors and patients

Μελέτες δείχνουν ότι μπορούν να βοηθήσουν γιατρούς και ασθενείς

in health care settings.

στην ιατρική φροντίδα.

This is the PARO baby seal robot.

Αυτό είναι το ρομπότ μωρό-φώκια PARO,

It's used in nursing homes and with dementia patients.

Χρησιμοποιείται σε οίκους ευγηρίας και σε ασθενείς με άνοια.

It's been around for a while.

Είναι καιρό στην αγορά.

And I remember, years ago, being at a party

Θυμάμαι πριν χρόνια σε ένα πάρτι

and telling someone about this robot,

είπα σε κάποια γι' αυτό το ρομπότ

and her response was,

και η αντίδρασή της ήταν

"Oh my gosh.

«Θεέ μου,

That's horrible.

Φρικτό.

I can't believe we're giving people robots instead of human care."

Είναι απίστευτο ότι τους δίνουμε ρομπότ αντί για ανθρώπινη φροντίδα».

And this is a really common response,

Συνηθισμένη αντίδραση.

and I think it's absolutely correct,

Και εντελώς δικαιολογημένη,

because that would be terrible.

γιατί θα ήταν φρικτό.

But in this case, it's not what this robot replaces.

Μα, δεν είναι αυτό που το ρομπότ αντικαθιστά.

What this robot replaces is animal therapy

Αντικαθιστά τη θεραπεία με ζώα

in contexts where we can't use real animals

σε περιπτώσεις που δεν μπορούμε να έχουμε αληθινά ζώα,

but we can use robots,

αλλά να έχουμε ρομπότ,

because people will consistently treat them more like an animal than a device.

γιατί τα αντιμετωπίζουμε σταθερά σαν ζώα παρά σαν συσκευές.

Acknowledging this emotional connection to robots

Παραδεχομένοι τον συναισθηματικό μας δεσμό με αυτά

can also help us anticipate challenges

θα μπορέσουμε να προβλέψουμε τις δυσκολίες

as these devices move into more intimate areas of people's lives.

όπως αυτά θα εισέρχονται σε πιο ιδιωτικούς χώρους της ζωής μας.

For example, is it OK if your child's teddy bear robot

Για παράδειγμα, θα το δεχτούμε αν το αρκουδάκι του παιδιού μας

records private conversations?

καταγράφει προσωπικές συνομιλίες;

Is it OK if your sex robot has compelling in-app purchases?

Ή αν το ρομπότ για σεξ έχει υποχρεωτικές ενσωματωμένες αγορές;

(Laughter)

(Γέλια)

Because robots plus capitalism

Επειδή ρομπότ συνδυασμένα με καπιταλισμό

equals questions around consumer protection and privacy.

εγείρουν αμφιβολίες για την προστασία του καταναλωτή και την ιδιωτικότητα.

And those aren't the only reasons

Δεν είναι αυτοί μόνο οι λόγοι

that our behavior around these machines could matter.

που η στάση μας προς αυτές τις μηχανές έχει σημασία.

A few years after that first initial experience I had

Λίγα χρόνια μετά από εκείνη την πρώτη εμπειρία

with this baby dinosaur robot,

με το ρομπότ μωρό δεινοσαύρου

I did a workshop with my friend Hannes Gassert.

οργάνωσα ένα σεμινάριο με τον φίλο μου Χάνες Γκάσερτ.

And we took five of these baby dinosaur robots

Πήραμε πέντε τέτοια ρομπότ μωρά δεινοσαύρων

and we gave them to five teams of people.

και τα δώσαμε σε πέντε ομάδες ανθρώπων.

And we had them name them

Τους είπαμε να τους δώσουν ονόματα

and play with them and interact with them for about an hour.

και να παίξουν μαζί τους για περίπου μία ώρα.

And then we unveiled a hammer and a hatchet

Μετά τους δώσαμε ένα σφυρί και ένα τσεκουράκι,

and we told them to torture and kill the robots.

για να βασανίσουν και να σκοτώσουν τα ρομπότ.

(Laughter)

(Γέλια)

And this turned out to be a little more dramatic

Αποδείχθηκε πιο δραματικό απ' ό,τι περιμέναμε,

than we expected it to be,

because none of the participants would even so much as strike

γιατί κανείς από τους συμμετέχοντες ούτε καν χτύπησε

these baby dinosaur robots,

τα ρομπότ μωρά δεινοσαύρων.

so we had to improvise a little, and at some point, we said,

Έπρεπε να αυτοσχεδιάσουμε και κάποια στιγμή είπαμε

"OK, you can save your team's robot if you destroy another team's robot."

«Μπορείτε να γλιτώσετε το ρομπότ σας αν καταστρέψετε μιας άλλης ομάδας».

(Laughter)

(Γέλια)

And even that didn't work. They couldn't do it.

Ούτε αυτό βοήθησε. Δεν ήθελαν να το κάνουν.

So finally, we said,

Τελικά τους είπαμε

"We're going to destroy all of the robots

«Θα καταστρέψουμε όλα τα ρομπότ

unless someone takes a hatchet to one of them."

αν κάποιος δεν σκοτώσει ένα από αυτά».

And this guy stood up, and he took the hatchet,

Σηκώθηκε ένας και πήρε το τσεκουράκι

and the whole room winced as he brought the hatchet down

και όλοι μόρφασαν με αποτροπιασμό καθώς το κατέβασε στον λαιμό του ρομπότ

on the robot's neck,

and there was this half-joking, half-serious moment of silence in the room

και υπήρξε μια μισοαστεία μισοσοβαρή στιγμή σιωπής στον χώρο

for this fallen robot.

προς τιμήν του θανόντος ρομπότ.

(Laughter)

(Γέλια)

So that was a really interesting experience.

Ήταν μια πραγματικά ενδιαφέρουσα εμπειρία.

Now, it wasn't a controlled study, obviously,

Δεν ήταν, βέβαια, μια αυστηρά ελεγχόμενη μελέτη,

but it did lead to some later research that I did at MIT

αλλά οδήγησε σε μια κατοπινή έρευνα που έκανα στο ΜΙΤ

with Palash Nandy and Cynthia Breazeal,

με τον Παλάς Νάντι και την Σίνθια Μπραζίλ

where we had people come into the lab and smash these HEXBUGs

όπου καλέσαμε άτομα στο εργαστήριο για να κομματιάσουν HEXBUG

that move around in a really lifelike way, like insects.

που κινούνται με ρεαλιστικό τρόπο σαν έντομα.

So instead of choosing something cute that people are drawn to,

Αντί, λοιπόν, για κάτι χαριτωμένο που ελκύει τους ανθρώπους

we chose something more basic,

διαλέξαμε κάτι πιο βασικό

and what we found was that high-empathy people

και διαπιστώσαμε ότι τα άτομα με τη μεγαλύτερη συμπόνια

would hesitate more to hit the HEXBUGS.

δίσταζαν περισσότερο να χτυπήσουν τα HEXBUG.

Now this is just a little study,

Ήταν μια μικρή μελέτη,

but it's part of a larger body of research

αλλά μέρος ενός μεγαλύτερου τομέα έρευνας

that is starting to indicate that there may be a connection

που αρχίζει να δείχνει ότι ίσως υπάρχει σχέση

between people's tendencies for empathy

μεταξύ της τάσης των ανθρώπων για συμπόνια

and their behavior around robots.

και της στάσης τους προς τα ρομπότ.

But my question for the coming era of human-robot interaction

Η ερώτησή μου για την επερχόμενη εποχή της αλληλεπίδρασης με τα ρομπότ δεν είναι

is not: "Do we empathize with robots?"

«Νιώθουμε συμπόνια για τα ρομπότ;»

It's: "Can robots change people's empathy?"

Αλλά «Μπορούν τα ρομπότ να επηρεάσουν την συμπόνια μας;»

Is there reason to, for example,

Υπάρχει λόγος, για παράδειγμα,

prevent your child from kicking a robotic dog,

να μην κλωτσήσει το παιδί σας ένα ρομπότ σκύλο,

not just out of respect for property,

όχι από σεβασμό στα αντικείμενα

but because the child might be more likely to kick a real dog?

αλλά γιατί έτσι θα είναι πιθανότερο να κλωτσήσει έναν αληθινό;

And again, it's not just kids.

Επαναλαμβάνω ότι δεν αφορά μόνο τα παιδιά.

This is the violent video games question, but it's on a completely new level

Αφορά στο ερώτημα για τα βίαια βιντεοπαιχνίδια από μια νέα σκοπιά

because of this visceral physicality that we respond more intensely to

γιατί υπάρχει αυθόρμητη υλική επαφή στην οποία αντιδρούμε πιο έντονα

than to images on a screen.

απ' ότι σε εικόνες στην οθόνη.

When we behave violently towards robots,

Όταν φερόμαστε βίαια προς τα ρομπότ,

specifically robots that are designed to mimic life,

ιδιαίτερα προς όσα έχουν σχεδιαστεί ως αντίγραφα όντων

is that a healthy outlet for violent behavior

είναι αυτό υγιής διέξοδος βίαιης συμπεριφοράς

or is that training our cruelty muscles?

ή εξάσκηση στη βία;

We don't know ...

Δεν γνωρίζουμε...

But the answer to this question has the potential to impact human behavior,

Όμως η απάντηση μπορεί να επηρεάσει την συμπεριφορά των ανθρώπων,

it has the potential to impact social norms,

μπορεί να επηρεάσει τις κοινωνικές συμβάσεις,

it has the potential to inspire rules around what we can and can't do

μπορεί να εμπνεύσει νέους κανόνες για το τι μπορούμε ή όχι να κάνουμε

with certain robots,

με συγκεκριμένα ρομπότ

similar to our animal cruelty laws.

σαν αυτούς περί κακομεταχείρισης ζώων.

Because even if robots can't feel,

Ακόμη κι αν τα ρομπότ δεν αισθάνονται,

our behavior towards them might matter for us.

η συμπεριφορά μας προς αυτά ίσως είναι σημαντική για εμάς.

And regardless of whether we end up changing our rules,

Και άσχετα από το αν τελικά θα αλλάξουμε τους κανόνες,

robots might be able to help us come to a new understanding of ourselves.

τα ρομπότ ίσως μας οδηγήσουν σε μια νέα γνώση του ποιοι είμαστε.

Most of what I've learned over the past 10 years

Τα πιο πολλά από όσα έμαθα εδώ και δέκα χρόνια

has not been about technology at all.

δεν έχουν καμία εντελώς σχέση με τεχνολογία.

It's been about human psychology

Αλλά με την ανθρώπινη ψυχοσύνθεση,

and empathy and how we relate to others.

την συμπόνια και τη δημιουργία σχέσεων.

Because when a child is kind to a Roomba,

Όταν ένα παιδί συμπονά μια ηλεκτρική σκούπα,

when a soldier tries to save a robot on the battlefield,

όταν ένας στρατιώτης σώζει ένα ρομπότ στο πεδίο της μάχης

or when a group of people refuses to harm a robotic baby dinosaur,

ή όταν κάποιοι αρνούνται να βλάψουν ένα ρομπότ μωρό δεινοσαύρου,

those robots aren't just motors and gears and algorithms.

τότε αυτά τα ρομπότ δεν είναι απλώς μηχανές, γρανάζια κι αλγόριθμοι.

They're reflections of our own humanity.

Είναι αντανακλάσεις της ανθρωπιάς μας.

Thank you.

Σας ευχαριστώ.

(Applause)

(Χειροκρότημα)