How we can teach computers to make sense of our emotions | Raphael Arar

Translator: Ivana Korom Reviewer: Joanna Pietrulewicz

Перекладач: Ilya Rozenberg Утверджено: Danylo Verbovskyy

I consider myself one part artist and one part designer.

Я вважаю себе частково митцем, а частково дизайнером.

And I work at an artificial intelligence research lab.

Я працюю в дослідницькій лабораторії з вивчення штучного інтелекту.

We're trying to create technology

Ми намагаємося створити технологію,

that you'll want to interact with in the far future.

що знадобиться в далекому майбутньому.

Not just six months from now, but try years and decades from now.

Не лише за шість місяців, але й через багато років і десятиріч.

And we're taking a moonshot

І ми робимо сміливу спробу

that we'll want to be interacting with computers

взаємодіяти з комп'ютерами

in deeply emotional ways.

на глибоко емоційному рівні.

So in order to do that,

Щоб це зробити,

the technology has to be just as much human as it is artificial.

технологія має бути настільки ж природною, наскільки вона штучна.

It has to get you.

Вона повинна розуміти вас.

You know, like that inside joke that'll have you and your best friend

Знаєте, наче такий жарт, від якого ви з найкращим другом

on the floor, cracking up.

від сміху качаєтесь по підлозі.

Or that look of disappointment that you can just smell from miles away.

Або такий погляд розчарування, який відчувається навіть на відстані.

I view art as the gateway to help us bridge this gap between human and machine:

Мені здається, що мистецтво допоможе подолати розрив між людиною та машиною:

to figure out what it means to get each other

з'ясувати, що значить розуміти один одного,

so that we can train AI to get us.

щоб потім навчити штучний інтелект розуміти нас.

See, to me, art is a way to put tangible experiences

Для мене мистецтво є засобом поєднання конкретного досвіду

to intangible ideas, feelings and emotions.

з нематеріальними ідеями, почуттями й емоціями.

And I think it's one of the most human things about us.

Думаю, це одна з найбільш "людських" рис, притаманних нам.

See, we're a complicated and complex bunch.

Ми — дуже складні істоти.

We have what feels like an infinite range of emotions,

В нас є майже нескінченний діапазон емоцій,

and to top it off, we're all different.

до того ж, ми всі різні.

We have different family backgrounds,

У нас різні сімейні передумови,

different experiences and different psychologies.

різний досвід і різні характери.

And this is what makes life really interesting.

Це саме те, що робить життя дуже цікавим.

But this is also what makes working on intelligent technology

Але це також робить взаємодію з розумною технологією

extremely difficult.

надзвичайно важкою.

And right now, AI research, well,

Дослідження штучного інтелекту

it's a bit lopsided on the tech side.

завжди орієнтоване на технічну сторону.

And that makes a lot of sense.

Це цілком логічно.

See, for every qualitative thing about us --

Тому що всі наші якісні характеристики —

you know, those parts of us that are emotional, dynamic and subjective --

емоційні, динамічні та суб'єктивні сторони нашої особистості —

we have to convert it to a quantitative metric:

повинні бути перетворені на кількісні показники,

something that can be represented with facts, figures and computer code.

ті, які можна представити у вигляді фактів, цифр та комп'ютерного коду.

The issue is, there are many qualitative things

Але проблема в тому, що багато якісних характеристик,

that we just can't put our finger on.

неможливо чітко визначити.

So, think about hearing your favorite song for the first time.

Згадайте, наприклад, коли ви вперше почули свою улюблену пісню.

What were you doing?

Що ви тоді робили?

How did you feel?

Як ви почувалися?

Did you get goosebumps?

Чи бігали мурашки по тілу?

Or did you get fired up?

Чи ви надихнулися?

Hard to describe, right?

Складно описати, так?

See, parts of us feel so simple,

Здається, що все дуже просто,

but under the surface, there's really a ton of complexity.

але під поверхнею в нас дійсно безодня складності.

And translating that complexity to machines

І вміння передати цю складність машинам

is what makes them modern-day moonshots.

буде справжнім проривом.

And I'm not convinced that we can answer these deeper questions

Я не впевнений, що ми зможемо відповісти на ці глибокі питання

with just ones and zeros alone.

лише за допомогою нулів та одиниць.

So, in the lab, I've been creating art

Отож в лабораторії я займаюся мистецтвом,

as a way to help me design better experiences

яке б допомогло мені вдосконалити дизайн

for bleeding-edge technology.

ультрасучасної технології.

And it's been serving as a catalyst

Це прискорює

to beef up the more human ways that computers can relate to us.

та покращує нашу взаємодію з комп'ютерами на більш людяному рівні.

Through art, we're tacking some of the hardest questions,

Завдяки мистецтву ми ставимо деякі з найважчих питань:

like what does it really mean to feel?

"Що насправді означає відчувати"?

Or how do we engage and know how to be present with each other?

"Як взаємодіяти і звідки ми знаємо, як потрібно поводитися?"

And how does intuition affect the way that we interact?

"Як інтуїція впливає на нашу взаємодію"?

So, take for example human emotion.

Візьмемо, наприклад, людські емоції.

Right now, computers can make sense of our most basic ones,

Зараз комп'ютери можуть зрозуміти наші найпростіші емоції:

like joy, sadness, anger, fear and disgust,

радість, смуток, гнів, страх і відразу,

by converting those characteristics to math.

перетворивши їх характеристики на математичні еквіваленти.

But what about the more complex emotions?

А як щодо складніших емоцій?

You know, those emotions

Знаєте, такі емоції,

that we have a hard time describing to each other?

що складно пояснити іншим?

Like nostalgia.

Наприклад, ностальгія.

So, to explore this, I created a piece of art, an experience,

Щоб дослідити це, я створив художній об'єкт, інсталяцію,

that asked people to share a memory,

яка запрошує людей ділитися спогадами.

and I teamed up with some data scientists

Я співпрацював з ученими, що вивчають дані,

to figure out how to take an emotion that's so highly subjective

щоб зрозуміти, як перетворити дуже суб'єктивну емоцію

and convert it into something mathematically precise.

на щось математично точне.

So, we created what we call a nostalgia score

Ми створили так званий «рівень ностальгії»,

and it's the heart of this installation.

що є серцем цього художнього об'єкта.

To do that, the installation asks you to share a story,

Для цього вас запрошують поділитися історією,

the computer then analyzes it for its simpler emotions,

яку комп'ютер потім розкладе на простіші емоції,

it checks for your tendency to use past-tense wording

перевірить вашу схильність до вживання форм минулого часу,

and also looks for words that we tend to associate with nostalgia,

а також знайде слова, які ми асоціюємо з ностальгією,

like "home," "childhood" and "the past."

такі як «дім», «дитинство» та «минуле».

It then creates a nostalgia score

Потім він підрахує рівень ностальгії,

to indicate how nostalgic your story is.

щоб визначити, наскільки ностальгічною є ваша історія.

And that score is the driving force behind these light-based sculptures

І ця оцінка є рушійною силою цих світлових скульптур,

that serve as physical embodiments of your contribution.

які служать фізичними втіленнями вашої історії.

And the higher the score, the rosier the hue.

Чим вище рівень, тим насиченіший рожевий колір.

You know, like looking at the world through rose-colored glasses.

Знаєте, це як дивитися на світ крізь рожеві окуляри.

So, when you see your score

Коли ви бачите свій рівень

and the physical representation of it,

і його кількісне вираження,

sometimes you'd agree and sometimes you wouldn't.

іноді ви згодні з цим, а іноді - ні.

It's as if it really understood how that experience made you feel.

Виглядає, наче машина дійсно зрозуміла, що ви почуваєте під впливом цього досвіду.

But other times it gets tripped up

Але іншого разу вона збивається,

and has you thinking it doesn't understand you at all.

і вам здається, що вас зовсім не зрозуміли.

But the piece really serves to show

Мета цього прикладу показати,

that if we have a hard time explaining the emotions that we have to each other,

що, якщо нам важко пояснити свої емоції один одному,

how can we teach a computer to make sense of them?

то як навчити комп'ютер розуміти їх?

So, even the more objective parts about being human are hard to describe.

Отже, навіть об'єктивні поняття про те, що таке бути людиною, важко описати.

Like, conversation.

Наприклад, розмова.

Have you ever really tried to break down the steps?

Ви коли-небудь намагалися розбити її на етапи?

So think about sitting with your friend at a coffee shop

Уявіть, що ви сидите зі своїм другом в кафе

and just having small talk.

і просто теревените.

How do you know when to take a turn?

Як ви розумієте, коли чия черга?

How do you know when to shift topics?

Як ви розумієте, коли змінити тему?

And how do you even know what topics to discuss?

І навіть, як ви знаєте, на які теми спілкуватися?

See, most of us don't really think about it,

Бачите, більшість з нас не думають про це,

because it's almost second nature.

тому що це наша друга натура.

And when we get to know someone, we learn more about what makes them tick,

Коли ми знайомимось з кимось, ми дізнаємося, що знаходить в них відгук,

and then we learn what topics we can discuss.

а потім дізнаємося, про що будемо розмовляти.

But when it comes to teaching AI systems how to interact with people,

Але коли ми говоримо про те, як навчити штучний інтелект розмовляти з людьми,

we have to teach them step by step what to do.

ми повинні навчати ШІ крок за кроком.

And right now, it feels clunky.

І зараз це дуже незграбна взаємодія.

If you've ever tried to talk with Alexa, Siri or Google Assistant,

Якщо ви коли-небудь намагалися розмовляти з Alexa, Siri або Google Assistant,

you can tell that it or they can still sound cold.

ви знаєте, що вони можуть звучати досить холодно.

Чи дратувало вас коли-небудь, якщо вони не розуміли

And have you ever gotten annoyed

when they didn't understand what you were saying

ваше прохання?

and you had to rephrase what you wanted 20 times just to play a song?

Коли треба було 20 разів перефразувати запит, щоб просто послухати пісню?

Alright, to the credit of the designers, realistic communication is really hard.

Добре, на думку дизайнерів, реалістичне спілкування це дійсно важко.

And there's a whole branch of sociology,

І є ціла галузь соціології,

called conversation analysis,

що називається розмовним аналізом,

that tries to make blueprints for different types of conversation.

і яка намагається створити сценарії для різних видів бесіди.

Types like customer service or counseling, teaching and others.

Наприклад, розмова в сфері обслуговування або консультування, навчання та інші.

I've been collaborating with a conversation analyst at the lab

В лабораторії разом з мовним аналітиком,

to try to help our AI systems hold more human-sounding conversations.

ми намагалися допомогти штучному інтелекту вести справжню живу розмову.

This way, when you have an interaction with a chatbot on your phone

Аби, коли ви спілкуєтесь з чат-ботом по телефону

or a voice-based system in the car,

або з голосовою системою автомобіля,

it sounds a little more human and less cold and disjointed.

це більше виглядало як спілкування з людиною, а не холодна незв'язна бесіда.

Тому я створив цей художній об'єкт,

So I created a piece of art

that tries to highlight the robotic, clunky interaction

щоб підкреслити роботичну, незграбну взаємодію,

to help us understand, as designers,

і щоб допомогти нам, як розробникам, зрозуміти,

why it doesn't sound human yet and, well, what we can do about it.

чому цій розмові все ще бракує людяності і що можна зробити, щоб це змінилося.

The piece is called Bot to Bot

Об'єкт називається "Розмова ботів",

and it puts one conversational system against another

в ньому взаємодіють дві розмовні системи

and then exposes it to the general public.

і широка публіка може за цим спостерігати.

And what ends up happening is that you get something

Ось, що відбувається: в нас є система,

that tries to mimic human conversation,

що намагається імітувати людську розмову,

but falls short.

але їй це не вдається.

Sometimes it works and sometimes it gets into these, well,

Іноді це працює, проте іноді система потрапляє

loops of misunderstanding.

в петлі непорозуміння.

So even though the machine-to-machine conversation can make sense,

Таким чином, навіть якщо розмова між машинами може мати сенс

grammatically and colloquially,

граматично і ситуаційно,

it can still end up feeling cold and robotic.

вона все одно буде здаватися холодною і механічною.

And despite checking all the boxes, the dialogue lacks soul

Навіть, якщо діалог відповідає нормам за всіма параметрами, йому бракує душі

and those one-off quirks that make each of us who we are.

і маленьких особливостей, що роблять кожного з нас тими, ким ми є.

So while it might be grammatically correct

З точки зору граматики, бесіда може бути правильною,

and uses all the right hashtags and emojis,

з вірними хештегами та смайлами,

it can end up sounding mechanical and, well, a little creepy.

але все одно, звучатиме механічно і трохи моторошно.

And we call this the uncanny valley.

Ми називаємо це явище «Моторошна долина».

You know, that creepiness factor of tech

Це те неприємне відчуття,

where it's close to human but just slightly off.

коли машина подібна до людини, але все ж таки не людина.

And the piece will start being

З допомогою цього об'єкта ми зможемо

one way that we test for the humanness of a conversation

тестувати рівень людяності бесіди

and the parts that get lost in translation.

і тих особливостей, які було втрачено під час перекладу.

So there are other things that get lost in translation, too,

У перекладі також зникають інші речі,

like human intuition.

наприклад, людська інтуїція.

Right now, computers are gaining more autonomy.

Зараз машини набувають більшої автономності.

They can take care of things for us,

Вони можуть піклуватися про різні речі:

like change the temperature of our houses based on our preferences

змінювати температуру в наших будинках, на основі наших вподобань

and even help us drive on the freeway.

і навіть допомагати нам керувати авто на трасі.

But there are things that you and I do in person

Проте існують речі, які ми з вами робимо,

that are really difficult to translate to AI.

але навчити цих речей машину дуже складно.

So think about the last time that you saw an old classmate or coworker.

Згадайте, коли ви бачили колишнього однокласника або співробітника.

Did you give them a hug or go in for a handshake?

Чи ви обнялися або потиснули йому руку?

You probably didn't think twice

Скоріш за все, ви не замислювалися,

because you've had so many built up experiences

у вас настільки багато попереднього культурного досвіду,

that had you do one or the other.

що ви зробили одне чи інше.

And as an artist, I feel that access to one's intuition,

Як митець, я відчуваю, що доступ до чиєїсь інтуїції,

your unconscious knowing,

до неусвідомленого знання,

is what helps us create amazing things.

це те, що допомагає нам створювати неймовірні речі.

Big ideas, from that abstract, nonlinear place in our consciousness

Ідеї, що народжуються в абстрактному нелінійному просторі нашої свідомості,

that is the culmination of all of our experiences.

що є квінтесенцією нашого досвіду.

And if we want computers to relate to us and help amplify our creative abilities,

Якщо машини мають бути схожі до нас і збільшувати наші креативні здібності,

I feel that we'll need to start thinking about how to make computers be intuitive.

здається, потрібно почати думати, як зробити машини більш інтуїтівними.

So I wanted to explore how something like human intuition

Мені хотілося дослідити, як людську інтуїцію

could be directly translated to artificial intelligence.

можна передати штучному інтелекту.

And I created a piece that explores computer-based intuition

Тому я створив об'єкт, що досліджує комп'ютерну інтуїцію

in a physical space.

у фізичному просторі.

The piece is called Wayfinding,

Він називається "Пошукач шляху"

and it's set up as a symbolic compass that has four kinetic sculptures.

і виглядає, як символічний компас, з чотирма кінетичними скульптурами.

Each one represents a direction,

Кожна з них — напрямок,

north, east, south and west.

північ, схід, південь і захід.

And there are sensors set up on the top of each sculpture

І на вершині кожної скульптури встановлені датчики,

that capture how far away you are from them.

що фіксують відстань, на якій ви знаходитесь.

And the data that gets collected

Дані, які надходять,

ends up changing the way that sculptures move

змінють рух скульптур

and the direction of the compass.

і напрямок компаса.

The thing is, the piece doesn't work like the automatic door sensor

Річ у тім, що об'єкт працює не так, як автоматичний датчик дверей,

that just opens when you walk in front of it.

що відкривається тільки, коли ходиш перед ним.

See, your contribution is only a part of its collection of lived experiences.

Ваш внесок — це маленька частина його колекції живого досвіду.

And all of those experiences affect the way that it moves.

І всі ці враження впливають на те, як він рухається.

So when you walk in front of it,

Тому, коли ви йдете перед ним,

it starts to use all of the data

він починає використовувати всі дані,

that it's captured throughout its exhibition history --

накопичені за всю його історію на виставці —

or its intuition --

свою інтуїцію —

to mechanically respond to you based on what it's learned from others.

механічно реагує на вас на основі того, чого навчився від інших.

And what ends up happening is that as participants

І ми, як учасники,

we start to learn the level of detail that we need

починаємо вивчати рівень деталей, які нам потрібні,

in order to manage expectations

щоб керувати очікуваннями

from both humans and machines.

людей і машин.

We can almost see our intuition being played out on the computer,

Ми майже можемо побачити нашу інтуїцію на екрані,

picturing all of that data being processed in our mind's eye.

передаючи всі ці дані, які обробляються нашим мозком.

My hope is that this type of art

Сподіваюся, що цей тип мистецтва

will help us think differently about intuition

допоможе нам по-іншому поглянути на інтуїцію,

and how to apply that to AI in the future.

і на те, як застосувати це до штучного інтелекту в майбутньому.

So these are just a few examples of how I'm using art to feed into my work

Це лише кілька прикладів того, як я використовую мистецтво в роботі

as a designer and researcher of artificial intelligence.

як дизайнер і дослідник штучного інтелекту.

And I see it as a crucial way to move innovation forward.

Я вважаю це чи не найважливішим способом просування інновацій.

Because right now, there are a lot of extremes when it comes to AI.

Тому що зараз дуже багато крайнощів, коли мова йде про штучний інтеллект.

Popular movies show it as this destructive force

Популярні кінострічки показують його як руйнівну силу,

while commercials are showing it as a savior

у той самий час реклама показує його

to solve some of the world's most complex problems.

як панацею для вирішення найскладніших світових питань.

But regardless of where you stand,

Але неважливо, у що ви вірите,

it's hard to deny that we're living in a world

важко заперечувати, що ми живемо у світі,

that's becoming more and more digital by the second.

який стає все більше і більше цифровим.

Our lives revolve around our devices, smart appliances and more.

Наше життя тісно пов'язане з девайсами, розумними приладами тощо.

And I don't think this will let up any time soon.

І я не думаю, що це скоро зникне.

So, I'm trying to embed more humanness from the start.

Тому я намагаюся запровадити більше людяності з самого початку.

And I have a hunch that bringing art into an AI research process

І я маю передчуття, що приносити мистецтво в процес дослідження штучного інтелекту -

is a way to do just that.

це правильний шлях.

Thank you.

Дякую.

(Applause)

(Оплески)