Anne Scherer: Why we're more honest with machines than people | TED

Transcriber:

Translator: Niyan Abdulla Reviewer: Daban Q. Jaff

Now, a few years back, I was having a barbecue with friends and family.

ئێستا، چەند ساڵێک بەر لە ئێستا خەریکی گۆشت برژاندن بووین لەگەڵ خێزان و هاوڕێکانم.

As usual, we talked about the weather, the good food or TV shows to watch.

وەک هەمیشە، قسەمان لەسەر کەشو هەوا، خواردن یان کەناڵە تیڤیەکان بوو.

So nothing out of the ordinary

هیچ شتێک نا ئاسای نەبوو

until one attendee casually mentioned

تا بەڕێکەوت یەکێک ئاماژەی دا بەوەی

that he and his wife hadn't had sex in a long time.

کە خۆی و ژنەکەی بۆ ماوەیەکی زۆرە سێکسیان نەکردووە.

As you can imagine, what followed was an awkward silence.

وەکو ئەوەی ئەیبینی، چی ڕوو ئەدات بێگومان بێدەنگیەکی شەرمهێنەر.

Until a six-year-old boy attending the barbecue with his parents

تاوەکو کوڕێکی شەش ساڵان کە لەگەڵ دایک و باوکی بوو

blurted out that his parents had lots of sex

بەبێ بیرکردنەوە وتی کە دایک و باوکی سێکسی زۆر ئەکەن

and he could hear them all the time.

ئەتوانێ هەموو کاتێ گوێی لێیان بێت.

And then the barbecue continued as if nothing had happened.

پاشان گۆشت برژاندنەکە بەردەوام بوو وەکو ئەوەی هیچ ڕووی نەدابێ.

Now, when I'm not having barbecues,

ئێستا، گۆشت نابرژێنم،

I am researching how people interact with each other

من لەوە ئەکۆڵمەوە چۆن خەڵکی کاریگەریان لەسەر یەکتر ئەبێت

and how that transfers to their interactions with technologies,

هەروەها چۆن ئەو ئاوێتەبوونە گوازراوەتەوە بۆ تەکنەلۆجی،

so not all too surprisingly,

ئەوە زۆر سەرسوڕهێنەر نییە،

after this very unique social interaction at the barbecue,

دوای کۆبونەوە کۆمەڵایەتیە ناوازەکەی گۆشت برژاندنەکە،

I was left wondering why we, the audience,

لەو کاتەوە سەرم سوڕماوە کە ئێمە، ئامادەبووان،

were so greatly ignoring what the adult so openly shared with us that evening.

بەتەواوی قسەی ئەو هەرزەکارەمان ئیهمالکرد کە زۆر بەکراوەی قسەی کرد ئەو ئێوارەیە.

So why the silence and then the laughter at the boy's comment?

کەوایە بۆچی سەرەتا بێدەنگبووین دوایی پێکەنین بە لێدوانی کوڕەکە؟

Well, both of them were breaking a social rule:

باشە، هەریەکەیان شکاندنی یاساکانی کۆمەڵگایە:

never talk about sex, money or politics at a dinner table.

هەرگیز دەربارەی سێکس، پارە یان سیاسەت قسە مەکەن لەسەر مێزی نانی ئێوارە.

We assume that an adult knows this rule and sticks to it.

وادادەنێین کە هەرزەکارەکان هەموو شت ئەزانن و پێوەی پەیوەستن.

So when such expectations are broken,

کاتێک ئەو ئەگەرانە شکێنران،

we sanction the offender accordingly -- in our case, with ignorance.

بەگوێرەی ئەوە سزای سەرپێچیکار ئەدەین__لەو حاڵەتە، بەنەفامیەوە.

When a child, however, breaks such a rule,

کاتێک مناڵێک، هەرچۆنێک بێت، یاسایەکی وا ئەشکێنێت،

we attribute this to their naive understanding of our social manners

وا وەسفی ئەکەین کە ئەمە تێگەیشتنێکی سروشتیە بۆ ڕێگاکانی ژیانمان

and up to a certain age at least, do not openly sanction them for it.

پەیوەستە بە تەمەنێکی دیاریکراو، بەڕاشکاوی سزایان مەدەن.

Clearly, there is no official rule book for socially appropriate behaviors

بەدیاریکراوی،کتێببێکی یاسای ڕەسمی نیە بۆ هەڵسوکەوتی کۆمەڵایەتی گونجاو

or even socially accepted dinner topics.

یان قبوڵی بابەتە کۆمەڵایەتیەکانی نانی ئێوارە بکات.

In fact, our social norms are usually unwritten codes of conduct,

لەڕاستیدا،ڕێگا کۆمەڵایەتیەکانمان بە گشتی لەڕێگای زاریەوەیە،

and they change over time as we as a society change and learn.

هەموو کاتێک لە گۆڕاندان هەر وەک ئێمەی کۆمەڵگا ئەگۆڕێین.

Less than a year ago, for instance,

بۆ نمونە، کەمتر لە ساڵێک پێش ئێستا،

it was considered impolite not to shake hands

بێ رەوشتی بوو تەوقە نەکردن

when introducing yourself to someone.

کاتێک خۆت بە کەسێک ئەناسێنیت.

A few months and the worldwide spread of the coronavirus later

دوای چەند مانگێک کاتێک کۆرۆنا ڤایرۆس بەهەموو جیهان بڵاوبویەوە

and shaking hands may be something to be frowned upon

تەوقەکردن لەوانەیە هیچ

and maybe even a thing of the past.

یان شتێک بێت لە ڕابردوو.

The way we learn these social rules then

ئەوەی وای کردووە ئەو یاسا کۆمەڵایەتیانە فێربین

is mostly by social rewards and social punishments.

زیاتر پاداشت و سزا کۆمەڵایەتیەکانن.

Now, as social animals,

ئێستا، وەکو ژینگەی گیاندارەکان،

we aim for social approval and want to avoid other's disapproval.

ڕازیکردنی کۆمەڵگا ئامانجمانە هەروەها دورکەوتنەوە لە ناڕەزای ئەوانی تر.

So we act in a way that is socially accepted

ئێمە بەو جۆرە ڕافتار ئەکەین کە کۆمەڵگا قبوڵیەتی

and present ourselves in a socially desirable way to others.

لەکۆمەڵگادا بەجۆرێکی ویستراو خۆمان نیشان ئەدەین.

So we want to be seen as an individual that is smart, successful,

ئەمانەوێت ببینرێین وەکو کەسێکی زیرەک، سەرکەوتوو.

sporty and active, creative, empathic and possibly all that at once.

وەرزشی و چالاک، داهێنەر، هاوسۆز یان لەوانەیە هەمووی لە یەک کاتدا.

Now, through social media, our strive for social approval,

ئێستا، هەوڵ ئەدەین بۆ ڕازیکردنی کۆمەڵگا، لە تۆڕە کۆمەڵایەتیەکان،

and with it, our need for self-presentation and perfection

بۆ بە ئاگابوون لێیان، پێویستیمان بۆ تەواوی و ئەوەی چۆن ئەمانبینن

has skyrocketed.

زۆر بەرزبۆتەوە.

Clearly, there is a flip side to all of this.

بەڕوونی، دوو ڕووی هەڵگەڕاوە هەیە بۆ هەموو ئەوانە.

In any social interaction, we do not only look for others' approval,

لەهەریەک لە کارلێکە کۆمەڵایەتیەکان، بەس بەدوای ڕازیبونی خەڵکی ناکەوین،

but we also constantly fear other's disapproval

بەڵکو ئێمە زۆربەی جار لە ناڕازیبوونی خەڵکی ئەترسین

when we cannot live up to their expectations.

کاتێک ناتوانین ڕازیبین بە حەزەکانیان.

Just consider an adult with incontinence problems

ئەو هەرزەکارانەی کە ناتوانن خۆیان بگرن لەبەرامبەر کێشەکان

or a drug addiction.

یان ئاڵودەبوون بە مادە بێهۆشکەرەکان.

If he or she had to talk to a health care professional,

ئەگەر کچەکە یان کوڕەکە قسە بکات بۆ پەرستارەکە،

what would you expect to find?

پێشبینی ئەوە ئەکەی چیت بۆ دەر بکەوێت ؟

Or if a soldier returned from combat

یان ئەگەر سەربازێک لەشەڕ بگەڕێتەوە

and had to talk about their fears or problems,

پێویست بکا کە دەربارەی کێشە و ترسەکانیان قسەبکەن،

do you think they would open up easily?

پێت وایە بە ئاسانی دەست بکات بە قسە کردن؟

A team of USC researchers examined just that.

تیمێک لە توێژەرەوەکانی USC ئەوەیان تاقیکردۆتەوە.

So they looked at the data from the US Army.

ئەوان سەریری ئامارەکانی سوپای US یان کرد.

Traditionally, soldiers had to be interviewed

بەگوێرەی نەریتی کۆن، سەربازەکان دەبوایە بانگێشت بکرێن

by a human health care professional when returning from combat

لەلایەن پەرستارەکەوە کاتێک لە جەنگ دەگەڕانەوە

to check if everything is OK.

بۆ زانینی ئەوەی کە هەموو شتێک ئاساییە.

Now, interestingly,

ئێستا، بەخۆشحاڵیەوە،

the researchers found that soldiers hardly reported any problems

بۆیان دەرکەوت سەربازەکان بەقورسی لێدوان ئەدەن لەسەر کێشەکانیان

after their returns.

لەدوای گەڕانەوەیان.

Surely many of them were truly fine,

زۆربەیان بەتەواوی باشن.

but the researchers also suspected

بەڵام توێژەرەکان گومانیان هەبوو کە

that many soldiers did not dare to share their problems openly.

زۆربەی سەربازەکان ناوێرن باسی کێشەکانیان بکەن بەڕاشکاوی.

After all, soldiers are trained to be strong and brave individuals

سەڕەڕای ئەوەی، سەربازەکان مەشقیان پێکراوە کەببنە کەسێکی ئازاو بەهێز

that learn not to show any weaknesses.

کە فێریان بکات هیچ لاوازیەک نیشان نەدەن.

So openly admitting to have health problems,

بەڕاشکاوی دان نان بەوەی ئەگەر کێشەی تەندروستیان هەبێت،

to have trouble sleeping or to have nightmares

یاخود کێشەی خەو یان خەوی ناخۆش

is not something easy to do for soldiers.

ئەوە شتێکی ئاسان نیە بۆ سەربازەکان.

The question then ultimately becomes

لە کۆتایدا پرسیارەکە ئەوەیە

how can we help individuals open up more easily

چۆن وا لە تاکەکان بکەین بە ئاسانی بکرێنەوە

and worry less about the judgment of others?

کەمتر دڵگران بن بەوەی کە چۆن بیریان لێ دەکرێتەوە؟

Well, remember what I said earlier.

باشە، بیرتانە کە چیم وت پێشووتر.

We expect social evaluation in any social interaction.

پێشبینی هەڵسەنگاندنی کۆمەڵایەتی ئەکەین لە پەیوەندیەکۆمەڵایەکان.

So how about we remove the social from the interaction?

ئەی چی ئەگەر و کۆمەڵگا داببڕین لە پەیوەندیان بەیەکەوە؟

This is exactly what the team in the US did.

ئەوە تەواو ئەو شتەیە کە دەستەی US کردیان.

In fact, they developed a virtual interviewer called SimSensei.

لە ڕاستیدا، پەرەیاندا بە توێژەرێکی تەکنەلۆجی بەناوی سیم سێنسێی.

So SimSensei is a digital avatar that has a humanlike appearance

سیم سێنێی زانایەیەکی ژمارەییە کە لەشێوەی مرۆڤ دەردەکەوێت

and can interact with clients through natural conversations.

ئەتوانێ لەڕێگەی گفتوگۆیەکی سروشتیەوە قسە لەگەڵ بەکارهێنەرەکەوە بکات.

Now, when returning from combat,

ئێستا، کاتێک لە جەنگ دەگەڕێنەوە،

soldiers were now interviewed by the digital avatar

سەربازەکان دەدوێنران لەلایەن زانا ژمارەییەکەوە

instead of that human health care professional.

لەجیاتی پەرستارەکە.

And what happened? Well, once SimSensei was introduced,

چی ڕوودەدات؟ باشە، کاتێک سیمسێنێی ناسێنرا،

soldiers reported more health problems,

سەربازەکان زیاتر دەدوان دەربارەی کێشە تەندوستییەکانین،

like having nightmares or trouble sleeping.

وەکو خەونی ناخۆش یان کێشەی خەوتن.

So machines can help remove the social from the equation

کەوایە ئامێرەکان دەبنە هۆی دابڕانی کۆمەڵ لە هاوکێشەکەی

and help people open up more easily.

یارمەتیدەرە بۆ کرانەوەی خەڵک زۆر ئاسانتر.

But careful, not all machines are created equal.

ئاگاداربە، هەموو ئامێرەکان بەیەکسانی دروست نەکراون.

Considering the tremendous advancements in technologies like computer graphics

بەڕەچاوکردنی پێشکەوتنێکی گەورەی تەکنەلۆجی وەکو نەخشەکاری کۆمپیوتەر

or natural language processing,

یان بەرنامەی شیکردنەوەو وەرگێڕانی زمان،

machines have become increasingly humanlike.

ئامێرەکان تادێت زیاتر لە مرۆڤ ئەچن.

The question then ultimately becomes,

لەکۆتایدا پرسیارەکە ئەوەیە،

which rules do we apply in these interactions?

‌چ ڕێسایەک گونجاوە بۆ ئەو کارلێکردنانە؟

Do we still apply social rules when we interact with humanlike machines?

ئایە ئێمە ڕێسا کۆمەڵایەتیەکان بەکاردێنین لەکاتی بەرکەوتن لەگەڵ ئامێرە لەمرۆڤچوەکان

کەوایە دوبارە پێویستە دڵگران بین بەوەی چۆن ئەو ئامێرە بڕیارمان لەسەر ئەدات؟

So do we start to worry about social judgment again?

This is exactly what I examine in my research.

ئەوە ئەو شتەیە کە من لە توێژینەوەکەمدا لێکۆڵینەوەی بۆ ئەکەم.

Together with colleagues, we have developed a series of chatbots.

گەشەماندا بە زنجیرەیەک پرۆگرامی کۆمپیوتەری لەگەڵ هاوکارەکان.

These chatbots were programmed to simulate text-based conversations

ئەو پرۆگرامە گفتوگۆ نوسراوە دەستیەکان هەوڵدەسەنگێنێت

and they were designed to be either very social and humanlike

بە جۆرێک نەخشە کێشراوە کە لە مرۆڤ بچێت و زۆر کۆمەڵایەتی بێت

or very functional and machine-like.

ئامێرێکی کاریگەرە.

So, for instance,

کەوایە، بۆ نمونە،

our humanlike bots use so-called speed disfluencies

ڕۆبۆتە لەمرۆڤچوەکانی ئێمە

and social language cues,

نیشانە زمانەوانیەکان،

like these "ohos", "ahas", "hmms" we humans love to use in our conversations

وەکو“ئۆوس“،”ئاس“،”همس” ئێمەی مرۆڤ حەزمان لەبەکارهێنانیانە

to signal our presence to conversation partners.

وەکو ئاماژەیەک بۆ ئەوە کەسەی گفتوگۆی لەگەڵ ئەکەی.

In contrast, our machine-like bots

هەرچەندە، ڕۆبۆتەکانی ئێمە

lacked such social cues and simply kept to the talking points.

زمانی جەستەیان نیە تەنها بە ئاسای قسە ئەکات.

Since we were interested in how much people would open up

لەو کاتەوە ئێمە سەرمان سوڕماوە کە چەند خەڵکی کراوە ئەبن

in these different conversations,

لەو سێ گفتوگۆ جیاوازانە.

we ask participants a number of questions,

کۆمەڵێک پرسیار لە بەشداربووان ئەکەین.

which gradually grew more and more personal,

کە بەرە بەرە پرسیاری تایبەتی گەشە پێ ئەدەین،

up to the point where we would ask participants

بەکەمی پرسیار لە بەژداربووان ئەکەین

to share possibly very delicate information about themselves.

بۆ ئاشکراکردنی زانیاریە هەستیارەکانی خۆیان بە ئاسانی.

Now, considering the findings from prior research,

ئێستا، بەڕەچاوکردنی توێژینەوەکانی پێشوو،

such as the one from the US Army before,

وەکو ئەوەی سوپای پێشوی US،

we expected that people would apply more social rules

بۆمان دەرکەوت کە خەڵکی زیاتر کۆمەڵایەیتی ئەبن

in their interactions with these humanlike bots

بە کارلێکردنیان لەگەڵ ئەو ڕۆبۆتە لە مرۆڤ چوانە

and act accordingly.

بەگوێرەی ئەوە مامەڵە ئەکەن.

So what did we find?

کەوایە چیمان بۆ دەر ئەکەوێت؟

Well, exactly that.

باشە، بەتەواوی.

So participants interacting with our humanlike bots

بەژداربوکانمان کاتێک مامەڵە لەگەڵ رۆبۆتەکە ئەکەن

were more concerned about social evaluation

زیاتر بە پەرۆشی هەڵسەنگاندنە کۆمەڵایەتیەکانن

and as a result of this social apprehension,

لە ئەنجامی ئەو مەترسیە کۆمەڵایەتیە

they also gave more socially desirable responses.

لەئەنجامدا زیاتر وەڵامی خوازراو وەر ئەگرن.

Let me give you an example.

با نمونەیەکتان بدەمێ.

One of the most delicate questions that we asked participants

یەکێک لەپرسیارە هەستیارەکان کە ئێمە لە بەژداربوەکانمان ئەکرد

was the number of prior sex partners they had had.

ژمارەی ئەو سێکسانە بوو کە لەگەڵ خۆشەویستەکانیان هەیانبووە.

When interacting with our humanlike bot,

کاتێک لەگەڵ ڕۆبۆتەکە کارلێک ئەکەن،

men reported to have significantly more prior sex partners

پیاوان ئاشکرایان کردوە سێکسی زیاتریان کردوە لەگەڵ خۆشەویستیەکانیان

and women reported to have significantly less

ژنانیش تاڕادەکی کەمتر

than those men and women interacting with our mechanistic bot.

لەو ژن و پیاوانەی کە بۆ مەکینەی ڕۆبۆتەکەمان گفتوگۆیان کردووە.

So what does this all tell us?

کەوایە هەموو ئەوانە چی بە ئێمە ئەڵێت؟

Well, first, men want to look good by having more prior sex partners

باشە، یەکەم شت، پیاوان هەستیان بەباشی ئەکرد بەهۆی سێکسێکی زۆر

and women by having less.

وە ژنان بە هەبوونی کەمتر.

Clearly, this already says a lot

بەڕونی. ئەوە زۆر هەڵدەگرێت لەسەر

about what the different sexes consider socially desirable

ئەو جیاوازیە لە سێکسکردنە کە ڕەچاوی خواستی کۆمەڵگا ئەکات

and how our expectations in society still differ across genders.

وە چۆن کۆمەڵگا هێشتا پێشبینی جیاوازی ڕەگەزی هەیە.

But this opens up a whole new topic

بەڵام ئەو کرانەوەیە بابەتێکی نوێ ئەکاتەوە

that I will better leave for other experts to discuss.

کە پێم باشترە بۆ شارەزاکانی تری بەجێ بێڵم تا مناقەشەی بکەن.

Second, and maybe more importantly, from a consumer psychology perspective.

دووەم، گرینگتر لەوە،

People open up more easily when they interact with machines

خەڵکی زیاتر ڕاشکاو ئەبن کاتێک لەگەڵ ئامێرەکان کارلێک ئەکەن

that are apparently just that -- machines.

کاتێک ئەزانن تەنها__ئامێرێکە.

Today, a lot of sweat, money and tears

ئەمڕۆ، ئارەقە، پارە، فرمێسک

is put into making machines basically indistinguishable from us.

ئەوانە کۆمەڵێک شتن که ئامێرەکان بەئاسانی جیا ناکرێنەوە لە ئێمە.

Now, this research can show

ئێستا ئەو توێژینەوەیە ئەوەمان نیشان ئەدات

that sometimes letting a machine be a machine is actually a good thing.

کە هەندێک جار بێڵی ئامێرێک تەنها ئامێرێک بێت شتێکی زۆر باشە.

Which brings me to my third point.

کە وام لێ ئەکات سێیەم بیرکردنەوەم هەبێت.

These machine interactions have been highly criticized at times.

هەندێک جار ئەوئامێرانە بەر ڕەخنەی توند ئەکەون.

So you may have heard that Siri, Alexa or others

لەوانەیە بیستبێتان کە سیری، ئەلێکسا یان ئەوانی تر

make your kids rude or impolite.

کە مناڵەکانتانیان بێ ڕێز و توڕە کردبێت.

Hopefully, this research can show you

خۆشبەختانە، ئەو توێژینەوەیە پیشانمان ئەدا

a great upside of these machine interactions.

لایەنە باشەکەی کارلێکەکانی ئەو ئامێرە.

In times of social media and our constant hunt for the next “like,”

لە تۆڕە کۆمەڵایەتیەکان حەزی ئێمە تەنها کۆکردنەوەی “ڵایکە،”

machines can give us grownups --

ئامێرەکان زیاتر تێگەیشتومان ئەکەن__

help us find that inner child again

یارمەتیمان ئەدات تا خۆمان بدۆزینەوە

and give our constant need for self-presentation and perfection

بەردەوامیمان ئەداتێ بۆ تەواوکردن و دەربڕینی کەسی

a time-out.

کات تەواو.

For once, we do not need to worry

بۆ جارێکیش، پێویست ناکا دڵگران بین

if the number of prior sex partners is too high or too low,

ئەگەر ژمارەی سێکسەکان لەگەڵ خۆشەویسی پێشومان زۆربن یان کەم،

and instead it is OK to simply be who we are.

ئەوە ئاساییە ببی بەو کەسەی کە دەتەوێ.

Ultimately, then, I think that these machines can remind us

لەکۆتایدا، پاشان، پێموایە کە ئەو ئامێرانە ئەوەمان بیر ئەهێننەوە کە

of a central element of what makes a good conversation partner:

بەشە بنچینەیەکەی وامان لێدەکات گفتوگۆیەکی باشمان هەبێت:

being nonjudgmental.

ئەویش ئەوەیە کە نەبین بە کەسێکی ڕەخنەگر.

so the next time you might encounter

جاری داهاتوو لەوانەیە ڕووبەڕووی

a unique social situation like mine at the barbecue,

بارودۆخی کۆمەڵایەتی تایبەت ببیەوە وەکو ئەوەی من لە گۆشت برژاندنەکە،

try to be less judgmental

هەوڵبدە کەمتر بڕیار لەسەر خەڵکی بدەی

when another person openly shares

کاتێک کەسانی تر کراوە ئەبن

their thoughts, feelings and problems with you.

بیرکردنەوەیان، هەستیان کێشەکانیان لەگەڵ تۆ.

Many machines do this already, and maybe so should we.

زۆربەی ئامێرەکان وا ئەکەن، لەوانەیە ئێمەش پێویست بکات وا بکەین.

Thank you very much.

زۆر سوپای.