How we can teach computers to make sense of our emotions | Raphael Arar

Translator: Ivana Korom Reviewer: Joanna Pietrulewicz

Переводчик: Anna P Редактор: Polina Nikitina

I consider myself one part artist and one part designer.

Я считаю себя отчасти художником и отчасти дизайнером.

And I work at an artificial intelligence research lab.

А работаю я в лаборатории по разработке искусственного интеллекта.

We're trying to create technology

Мы разрабатываем технологии,

that you'll want to interact with in the far future.

с которыми вам захотелось бы общаться даже в далёком будущем.

Not just six months from now, but try years and decades from now.

Не только через полгода, а через годы и десятилетия.

And we're taking a moonshot

И мы не боимся предположить,

that we'll want to be interacting with computers

что люди хотят общаться с компьютерами

in deeply emotional ways.

на глубоко эмоциональном уровне.

So in order to do that,

Чтобы этого добиться,

the technology has to be just as much human as it is artificial.

технологии должны стать настолько же естественными, насколько они искусственны.

It has to get you.

Они должны понимать вас.

You know, like that inside joke that'll have you and your best friend

Ну знаете, как ваша с другом шутка,

on the floor, cracking up.

от которой вы оба катаетесь по полу от смеха.

Or that look of disappointment that you can just smell from miles away.

Или как разочарованный взгляд, который чувствуется за версту.

I view art as the gateway to help us bridge this gap between human and machine:

Мне кажется, искусство поможет нам преодолеть пропасть

между человеком и машиной:

to figure out what it means to get each other

мы научимся понимать друг друга,

so that we can train AI to get us.

чтобы потом обучить ИИ понимать нас.

See, to me, art is a way to put tangible experiences

Для меня искусство — это способ передать абстрактные идеи, чувства и эмоции

to intangible ideas, feelings and emotions.

с помощью конкретных явлений.

And I think it's one of the most human things about us.

И я думаю, это одна из наиболее присущих человеку черт.

See, we're a complicated and complex bunch.

Мы, люди, чрезвычайно сложные существа.

We have what feels like an infinite range of emotions,

Диапазон наших эмоций кажется бесконечным,

and to top it off, we're all different.

и к тому же мы все разные.

We have different family backgrounds,

Мы имеем разное происхождение,

different experiences and different psychologies.

разный жизненный опыт и разные характеры.

And this is what makes life really interesting.

Это делает жизнь действительно интересной,

But this is also what makes working on intelligent technology

но также делает работу над интеллектуальными технологиями

extremely difficult.

чрезвычайно трудной.

And right now, AI research, well,

И сегодня в разработке ИИ

it's a bit lopsided on the tech side.

есть перекос в сторону техники.

And that makes a lot of sense.

В этом есть смысл.

See, for every qualitative thing about us --

Ведь все наши качественные характеристики —

you know, those parts of us that are emotional, dynamic and subjective --

наши эмоциональные, динамичные и субъективные стороны —

we have to convert it to a quantitative metric:

необходимо перевести в количественные показатели:

something that can be represented with facts, figures and computer code.

в то, что может быть представлено данными, цифрами и компьютерным кодом.

The issue is, there are many qualitative things

Проблема в том, что многие из качественных характеристик

that we just can't put our finger on.

не поддаются точному определению.

So, think about hearing your favorite song for the first time.

Например, вспомните, когда вы впервые услышали свою любимую песню.

What were you doing?

Что вы тогда делали?

How did you feel?

Что вы почувствовали?

Did you get goosebumps?

У вас пошли мурашки по коже?

Or did you get fired up?

Вы пришли в восторг?

Hard to describe, right?

Трудно объяснить, да?

See, parts of us feel so simple,

Иногда наши чувства кажутся очень простыми,

but under the surface, there's really a ton of complexity.

но если копнуть глубже, то они окажутся гораздо сложнее.

And translating that complexity to machines

И перевод всей этой сложности для машин —

is what makes them modern-day moonshots.

это своего рода «полёт на Луну» нашего времени.

And I'm not convinced that we can answer these deeper questions

И я не уверен, что мы сможем ответить на эти глубокие вопросы,

with just ones and zeros alone.

используя лишь нули и единицы.

So, in the lab, I've been creating art

В лаборатории я занимался искусством,

as a way to help me design better experiences

чтобы с его помощью создавать более удобный дизайн

for bleeding-edge technology.

для новейших технологий.

And it's been serving as a catalyst

И оно служит стимулом,

to beef up the more human ways that computers can relate to us.

чтобы находить способы общаться с компьютерами по-человечески.

Through art, we're tacking some of the hardest questions,

В искусстве мы ищем ответы на самые трудные вопросы:

like what does it really mean to feel?

что значит чувствовать?

Or how do we engage and know how to be present with each other?

Как мы взаимодействуем друг с другом и откуда знаем, как себя вести?

And how does intuition affect the way that we interact?

Как интуиция влияет на наше общение?

So, take for example human emotion.

Возьмём, например, человеческие эмоции.

Right now, computers can make sense of our most basic ones,

Сегодня компьютеры могут понять основные из них —

like joy, sadness, anger, fear and disgust,

радость, грусть, злость, страх и отвращение, —

by converting those characteristics to math.

переводя их характеристики в математику.

But what about the more complex emotions?

А как обстоят дела с более сложными эмоциями?

You know, those emotions

С теми самыми,

that we have a hard time describing to each other?

которые трудно описать другим людям?

Like nostalgia.

Как ностальгия.

So, to explore this, I created a piece of art, an experience,

Для изучения этого вопроса я создал предмет искусства, инсталляцию,

that asked people to share a memory,

где людей просят поделиться воспоминанием.

and I teamed up with some data scientists

Вместе со специалистами по обработке данных

to figure out how to take an emotion that's so highly subjective

я пытался выяснить, как превратить невероятно субъективную эмоцию

and convert it into something mathematically precise.

в нечто математически точное.

So, we created what we call a nostalgia score

Мы создали так называемый показатель ностальгии,

and it's the heart of this installation.

и в этом суть нашей инсталляции.

To do that, the installation asks you to share a story,

Сначала вас просят рассказать историю,

the computer then analyzes it for its simpler emotions,

после чего компьютер анализирует её на простые эмоции,

it checks for your tendency to use past-tense wording

проверяет на склонность к глаголам в прошедшем времени,

and also looks for words that we tend to associate with nostalgia,

а также ищет слова, которые обычно ассоциируются с ностальгией,

like "home," "childhood" and "the past."

такие как «дом», «детство», «прошлое».

It then creates a nostalgia score

Затем он выдаёт показатель ностальгии,

to indicate how nostalgic your story is.

то есть насколько ностальгической была ваша история.

And that score is the driving force behind these light-based sculptures

И ваш показатель наглядно отображается на этих световых скульптурах,

that serve as physical embodiments of your contribution.

которые являются физическим воплощением рассказанной вами истории.

And the higher the score, the rosier the hue.

Чем выше показатель, тем более розовый оттенок —

You know, like looking at the world through rose-colored glasses.

как в выражении «смотреть на мир сквозь розовые очки».

So, when you see your score

Увидев ваш показатель

and the physical representation of it,

и его физическое представление,

sometimes you'd agree and sometimes you wouldn't.

иногда вы соглашаетесь с результатом, а иногда нет.

It's as if it really understood how that experience made you feel.

Словно компьютер на самом деле понял ваши переживания.

But other times it gets tripped up

Но в других случаях он ошибается,

and has you thinking it doesn't understand you at all.

и тогда вам кажется, что он вас совсем не понимает.

But the piece really serves to show

Но это действительно показывает,

that if we have a hard time explaining the emotions that we have to each other,

что если мы с трудом можем объяснить свои эмоции даже друг другу,

how can we teach a computer to make sense of them?

то как же научить компьютер понимать их?

So, even the more objective parts about being human are hard to describe.

И даже более объективные явления в жизни человека трудно описать.

Like, conversation.

Например, разговор.

Have you ever really tried to break down the steps?

Вы кода-нибудь пробовали разобрать разговор по шагам?

So think about sitting with your friend at a coffee shop

Представьте, что вы сидите со другом в кофейне

and just having small talk.

и просто болтаете.

How do you know when to take a turn?

Как вы понимаете,

когда ваша очередь говорить?

How do you know when to shift topics?

Как вы понимаете, когда сменить тему?

And how do you even know what topics to discuss?

И как вы вообще выбираете тему для разговора?

See, most of us don't really think about it,

Большинство людей об этом не задумываются,

because it's almost second nature.

так как это почти вторая натура.

And when we get to know someone, we learn more about what makes them tick,

Узнавая человека поближе, мы лучше понимаем, чем он живёт,

and then we learn what topics we can discuss.

и тогда понимаем, на какие темы с ним поговорить.

But when it comes to teaching AI systems how to interact with people,

Но если мы хотим научить ИИ общаться с людьми,

we have to teach them step by step what to do.

то им нужно расписать этот процесс пошагово.

And right now, it feels clunky.

А сегодня общение с ИИ кажется неестественным.

If you've ever tried to talk with Alexa, Siri or Google Assistant,

Если вам когда-нибудь доводилось говорить с Алексой, Сири или Google Ассистентом,

you can tell that it or they can still sound cold.

то вы можете сказать, что они до сих пор говорят без эмоций.

And have you ever gotten annoyed

А бывало, что вы раздражались,

when they didn't understand what you were saying

когда они не понимали ваш запрос,

and you had to rephrase what you wanted 20 times just to play a song?

и приходилось 20 раз его перефразировать, только чтобы послушать песню?

Alright, to the credit of the designers, realistic communication is really hard.

Хотя надо отдать разработчикам должное, естесвенное общение очень сложно.

And there's a whole branch of sociology,

Существует целый раздел социологии,

called conversation analysis,

называемый анализ общения,

that tries to make blueprints for different types of conversation.

который пытается определить структуру различных типов разговора:

Types like customer service or counseling, teaching and others.

обслуживание клиентов, консультирование, обучение и т.д.

I've been collaborating with a conversation analyst at the lab

В своей лаборатории я работаю вместе с аналитиком общения,

to try to help our AI systems hold more human-sounding conversations.

чтобы сделать разговоры с системами ИИ более похожими на человеческие.

This way, when you have an interaction with a chatbot on your phone

В итоге виртуальный собеседник в телефоне

or a voice-based system in the car,

или голосовая система в автомобиле

it sounds a little more human and less cold and disjointed.

будет общаться с вами более естественно и менее механически и несвязно.

So I created a piece of art

Я решил наглядно показать,

that tries to highlight the robotic, clunky interaction

как проходит механическое, неестественное общение,

to help us understand, as designers,

чтобы нам, разработчикам, стало понятнее,

why it doesn't sound human yet and, well, what we can do about it.

почему оно ещё не звучит по-человечески и как это исправить.

The piece is called Bot to Bot

Это называется «Робот роботу»:

and it puts one conversational system against another

одна разговорная система поставлена в диалог с другой,

and then exposes it to the general public.

и результат показывается зрителю.

And what ends up happening is that you get something

В итоге получается нечто,

that tries to mimic human conversation,

что пытается имитировать человеческое общение,

but falls short.

но не очень удачно.

Sometimes it works and sometimes it gets into these, well,

Иногда разговор идёт как надо, а иногда они попадают

loops of misunderstanding.

в цикл недопонимания.

So even though the machine-to-machine conversation can make sense,

И хотя разговор между компьютерами может иметь смысл

grammatically and colloquially,

в плане лексики и грамматики,

it can still end up feeling cold and robotic.

он всё ещё кажется бесчувственным и механическим.

And despite checking all the boxes, the dialogue lacks soul

И, несмотря на все усилия, в диалоге не хватает души

and those one-off quirks that make each of us who we are.

и этих милых странностей, которые есть у каждого человека.

So while it might be grammatically correct

И хотя здесь соблюдены все правила грамматики

and uses all the right hashtags and emojis,

и правильно использованы хэштэги и смайлики,

it can end up sounding mechanical and, well, a little creepy.

в конечном итоге разговор звучит механически и как-то жутковато.

And we call this the uncanny valley.

Это так называемая зловещая долина —

You know, that creepiness factor of tech

то самое жуткое чувство от технологий,

where it's close to human but just slightly off.

которые пытаются вести себя как люди, но немного не дотягивают.

And the piece will start being

И с помощью подобных диалогов

one way that we test for the humanness of a conversation

можно будет тестировать разговоры на естественность

and the parts that get lost in translation.

и выяснять, что теряется при переводе.

So there are other things that get lost in translation, too,

Есть и другие вещи, которые теряются при переводе,

like human intuition.

такие как человеческая интуиция.

Right now, computers are gaining more autonomy.

Сегодня компьютеры становятся более автономными.

They can take care of things for us,

Они могут выполнять за нас действия,

like change the temperature of our houses based on our preferences

к примеру, менять температуру в доме, исходя из наших предпочтений,

and even help us drive on the freeway.

и даже помогать нам вести машину на автостраде.

But there are things that you and I do in person

Но кое-что из того, что мы делаем самостоятельно,

that are really difficult to translate to AI.

очень трудно перевести для ИИ.

So think about the last time that you saw an old classmate or coworker.

Вспомните, когда вы в последний раз встречались с одноклассником или коллегой.

Did you give them a hug or go in for a handshake?

Вы обняли его или просто пожали руку?

You probably didn't think twice

Вряд ли вы долго думали над этим,

because you've had so many built up experiences

ведь у вас уже накопилось так много опыта,

that had you do one or the other.

что вы просто делаете либо то, либо другое.

And as an artist, I feel that access to one's intuition,

И как художник я чувствую, что именно благодаря интуиции,

your unconscious knowing,

нашим неосознанным знаниям,

is what helps us create amazing things.

мы создаём удивительные вещи.

Big ideas, from that abstract, nonlinear place in our consciousness

Великие идеи из этой абстрактной, нелинейной части нашего сознания —

that is the culmination of all of our experiences.

это кульминация всего нашего жизненного опыта.

And if we want computers to relate to us and help amplify our creative abilities,

Если мы хотим, чтобы компьютеры

понимали нас и помогали развивать наши творческие возможности,

I feel that we'll need to start thinking about how to make computers be intuitive.

мне кажется, сто́ит подумать, как научить их интуиции.

So I wanted to explore how something like human intuition

Мне захотелось исследовать, как можно напрямую перевести

could be directly translated to artificial intelligence.

что-то вроде человеческой интуиции для искусственного интеллекта.

And I created a piece that explores computer-based intuition

И я изобрёл способ исследования компьютерной интуиции

in a physical space.

в физическом пространстве.

The piece is called Wayfinding,

Эта штука называется «Поиск пути»,

and it's set up as a symbolic compass that has four kinetic sculptures.

и это символический компас, имеющий четыре кинетические скульптуры.

Each one represents a direction,

Каждая из них представляет направление:

north, east, south and west.

север, восток, юг и запад.

And there are sensors set up on the top of each sculpture

На вершине каждой скульптуры установлены датчики,

that capture how far away you are from them.

которые улавливают, как далеко вы от них.

And the data that gets collected

И на основе полученной информации

ends up changing the way that sculptures move

меняется траектория движения скульптур

and the direction of the compass.

и направление на компасе.

The thing is, the piece doesn't work like the automatic door sensor

Суть в том, что эта штука не работает как автоматический датчик на двери,

that just opens when you walk in front of it.

которая просто открывается, если к ней подойти.

See, your contribution is only a part of its collection of lived experiences.

Ваше участие — это только часть его жизненного опыта.

And all of those experiences affect the way that it moves.

И весь этот жизненный опыт влияет на то, как он движется.

So when you walk in front of it,

Когда вы проходите перед ним,

it starts to use all of the data

он использует все данные,

that it's captured throughout its exhibition history --

которые накопил за всю историю своего существования, —

or its intuition --

то есть свою интуицию, —

to mechanically respond to you based on what it's learned from others.

и автоматически реагирует на вас, исходя из того, что узнал от других людей.

And what ends up happening is that as participants

И в итоге мы как участники

we start to learn the level of detail that we need

начинаем изучать, какой уровень детализации нужен,

in order to manage expectations

чтобы управлять ожиданиями

from both humans and machines.

как человека, так и машины.

We can almost see our intuition being played out on the computer,

На экране компьютера мы почти можем увидеть, как работает наша интуиция

picturing all of that data being processed in our mind's eye.

и как все эти данные обрабатываются нашим сознанием.

My hope is that this type of art

Я надеюсь, что этот вид искусства

will help us think differently about intuition

поможет нам по-другому думать об интуиции

and how to apply that to AI in the future.

и в будущем применить это к ИИ.

So these are just a few examples of how I'm using art to feed into my work

Это лишь несколько примеров того, как я использую искусство в своей работе

as a designer and researcher of artificial intelligence.

разработчика и исследователя искусственного интеллекта.

And I see it as a crucial way to move innovation forward.

И для меня это важнейший способ продвижения инноваций.

Because right now, there are a lot of extremes when it comes to AI.

Потому что сейчас в отношении ИИ существует много крайностей.

Popular movies show it as this destructive force

Известные фильмы представляют его разрушительной силой,

while commercials are showing it as a savior

в то время как реклама представляет его спасителем,

to solve some of the world's most complex problems.

который решит сложнейшие мировые проблемы.

But regardless of where you stand,

Но, независимо от вашего мнения,

it's hard to deny that we're living in a world

трудно отрицать, что мы живём в мире,

that's becoming more and more digital by the second.

который с каждой секундой становится всё более цифровым.

Our lives revolve around our devices, smart appliances and more.

Наша жизнь крутится вокруг наших девайсов, умных приборов и тому подобного.

And I don't think this will let up any time soon.

И не думаю, что это прекратится в ближайшее время.

So, I'm trying to embed more humanness from the start.

Итак, цель моей работы — изначально заложить в ИИ больше человеческого.

And I have a hunch that bringing art into an AI research process

И у меня есть предчувствие, что именно внесение искусства в процесс разработки ИИ

is a way to do just that.

поможет нам этого добиться.

Thank you.

Спасибо.

(Applause)

(Аплодисменты)