How we can teach computers to make sense of our emotions | Raphael Arar

Translator: Ivana Korom Reviewer: Joanna Pietrulewicz

Fordító: Ádám Kósa Lektor: Péter Pallós

I consider myself one part artist and one part designer.

Egyszerre művésznek és tervezőnek tartom magam.

And I work at an artificial intelligence research lab.

Mesterséges intelligenciát kutató laborban dolgozom.

We're trying to create technology

Olyan technológiát hoznánk létre,

that you'll want to interact with in the far future.

amellyel a jövőben szeretnének kölcsönhatásba kerülni.

Not just six months from now, but try years and decades from now.

Innen számítva nem hat hónapról, évekről, évtizedekről van szó.

And we're taking a moonshot

Ez pedig eget rengető lesz:

that we'll want to be interacting with computers

a számítógépekkel mély érzelmi szinteken

in deeply emotional ways.

akarunk kölcsönhatásba kerülni.

So in order to do that,

Ennek érdekében

the technology has to be just as much human as it is artificial.

a technológia nemcsak mesterséges, hanem emberi is kell, hogy legyen.

It has to get you.

Magával kell ragadnia.

You know, like that inside joke that'll have you and your best friend

Mint a két legjobb barát közti belső poénnak,

on the floor, cracking up.

ami padlóra küld, megőrjít.

Or that look of disappointment that you can just smell from miles away.

Vagy a mérföldekről érezhető csalódás látszatának.

I view art as the gateway to help us bridge this gap between human and machine:

Úgy látom, művészettel áthidalható az ember és gép közötti szakadék,

to figure out what it means to get each other

megtanuljuk megérteni egymást,

so that we can train AI to get us.

így kiképezhetjük az MI-t, hogy megértsen minket.

See, to me, art is a way to put tangible experiences

Számomra a művészet kézzelfogható élmények kifejezésének módja

to intangible ideas, feelings and emotions.

megfoghatatlan gondolatokba, érzésekbe, érzelmekbe.

And I think it's one of the most human things about us.

Azt hiszem, ez tesz minket leginkább emberré.

See, we're a complicated and complex bunch.

Bonyolult és összetett lények vagyunk.

We have what feels like an infinite range of emotions,

Érzelmeink tág határok közt váltakoznak,

and to top it off, we're all different.

ráadásul mind mások vagyunk.

We have different family backgrounds,

Különböző a családi hátterünk,

different experiences and different psychologies.

az élményeink, a lelkivilágunk.

And this is what makes life really interesting.

Ez teszi az életet igazán érdekessé.

But this is also what makes working on intelligent technology

De ugyanez teszi az okostechnológia fejlesztését

extremely difficult.

rendkívül nehézkessé.

And right now, AI research, well,

Jelenleg az MI-kutatás

it's a bit lopsided on the tech side.

kissé aránytalanul műszaki jellegű.

And that makes a lot of sense.

Aminek sok értelme van.

See, for every qualitative thing about us --

A magunk összes minőségi jellemzőjét –

you know, those parts of us that are emotional, dynamic and subjective --

érzelmi, dinamikus és egyéni részeinket –

we have to convert it to a quantitative metric:

számszerűsítenünk kell valamire,

something that can be represented with facts, figures and computer code.

ami tényekkel, ábrákkal, programozási kóddal fejezhető ki.

The issue is, there are many qualitative things

A gond az, hogy sok olyan minőségi jellemző van,

that we just can't put our finger on.

amikre nincs pontos definíció.

So, think about hearing your favorite song for the first time.

Gondoljunk arra, amikor először hallgatták kedvenc dalukat.

What were you doing?

Mit csináltak?

How did you feel?

Mit éreztek?

Did you get goosebumps?

Libabőrösök lettek?

Or did you get fired up?

Vagy felpörögtek?

Hard to describe, right?

Nehéz leírni, igaz?

See, parts of us feel so simple,

Egyik felünk annyira egyszerűen érez,

but under the surface, there's really a ton of complexity.

de elképesztő a felszín alatti sokrétűség.

And translating that complexity to machines

Ennek a sokrétűségnek átültetése gépekbe pedig:

is what makes them modern-day moonshots.

modern kori eget rengető vállalkozás.

And I'm not convinced that we can answer these deeper questions

Nem hiszem, hogy ezekre a mély kérdésekre választ ad

with just ones and zeros alone.

a szimpla egy és nulla.

So, in the lab, I've been creating art

Ezért a laborban a művészetet arra használom fel,

as a way to help me design better experiences

hogy jobb élményeket tervezzek

for bleeding-edge technology.

kiforratlan technológiáknak.

And it's been serving as a catalyst

Ez eddig katalizátorként szolgált,

to beef up the more human ways that computers can relate to us.

hogy ütőképesebbé tegyem a gépek emberi jellemzőit.

Through art, we're tacking some of the hardest questions,

A művészet segít megbirkózni a legnehezebb kérdésekkel:

like what does it really mean to feel?

pl. igazából mit jelent érezni?

Or how do we engage and know how to be present with each other?

Hogyan foglalkozunk egymással, és egymás jelenlétével?

And how does intuition affect the way that we interact?

Hogyan befolyásolja a megérzés, miként érintkezünk egymással?

So, take for example human emotion.

Vegyük példaként az emberi érzelmeket.

Right now, computers can make sense of our most basic ones,

Jelenleg a gépek képesek megérteni a legalapvetőbbeket:

like joy, sadness, anger, fear and disgust,

öröm, szomorúság, harag, félelem, utálat;

by converting those characteristics to math.

ezek jellemzőit számokká alakítják át.

But what about the more complex emotions?

De a sokkal összetettebb érzelmeket is?

You know, those emotions

Azon érzéseket,

that we have a hard time describing to each other?

amiket egymásnak nagyon nehezen tudunk leírni.

Like nostalgia.

Pl. a nosztalgia.

So, to explore this, I created a piece of art, an experience,

Hogy ezt megnézzem, műalkotást, élményt hoztam létre,

that asked people to share a memory,

ami emlékek elmesélését kéri.

and I teamed up with some data scientists

Majd pár adattudóssal együtt kitaláltuk,

to figure out how to take an emotion that's so highly subjective

hogyan alakítsunk át nagyon szubjektív érzelmeket

and convert it into something mathematically precise.

valami számszerűleg pontos dologgá.

So, we created what we call a nostalgia score

Erre létrehoztuk az ún. nosztalgiaszámot,

and it's the heart of this installation.

és ez az installációnk magja.

To do that, the installation asks you to share a story,

Az installáció sztorimesélésre kér,

the computer then analyzes it for its simpler emotions,

amit a gép elemez, egyszerűbb érzelmekre bont,

it checks for your tendency to use past-tense wording

megnézi, mennyire van jelen a múltidő-használat,

and also looks for words that we tend to associate with nostalgia,

illetve nosztalgiához kapcsolódó szavakat keres,

like "home," "childhood" and "the past."

mint pl. otthon, gyerekkor, a múlt.

It then creates a nostalgia score

Így jön létre a nosztalgiaszám,

to indicate how nostalgic your story is.

ami a sztori nosztalgikusságát jelzi.

And that score is the driving force behind these light-based sculptures

Az eredmény pedig a mozgatórugója e fényalapú alakzatoknak,

that serve as physical embodiments of your contribution.

mintegy fizikai megtestesülésük a mesélők hozzájárulásának.

And the higher the score, the rosier the hue.

Minél nagyobb a szám, annál rózsaszínűbb a háttér.

You know, like looking at the world through rose-colored glasses.

Mintha rózsaszín szemüvegen át látnánk a világot.

So, when you see your score

Ha megjelenik a szám

and the physical representation of it,

és a fizikai megtestesülése,

sometimes you'd agree and sometimes you wouldn't.

néha egyet szoktak érteni vele, néha nem.

It's as if it really understood how that experience made you feel.

Mintha a gép valóban megértette volna, milyen érzést váltott ki az élmény.

But other times it gets tripped up

Néha pedig belegabalyodik,

and has you thinking it doesn't understand you at all.

és azt sugallja, semmit sem ért belőlünk.

But the piece really serves to show

De az alkotás rámutat,

that if we have a hard time explaining the emotions that we have to each other,

hogy ha még egymás iránti érzelmeink elmondása is nehezünkre esik,

how can we teach a computer to make sense of them?

hogyan értessük meg azokat gépekkel?

So, even the more objective parts about being human are hard to describe.

Még a tárgyszerűbb emberi dolgokat is nehéz leírni.

Like, conversation.

Pl. a társalgást.

Have you ever really tried to break down the steps?

Próbálták már valaha is lépésekre bontani?

So think about sitting with your friend at a coffee shop

Tegyük fel, barátjukkal ülnek a kávézóban,

and just having small talk.

és cseverésznek.

How do you know when to take a turn?

Miből tudják, hogy önökön a sor?

How do you know when to shift topics?

Mikor váltsanak témát?

And how do you even know what topics to discuss?

Egyáltalán milyen témát válasszanak?

See, most of us don't really think about it,

Legtöbbünk nem igazán gondol bele,

because it's almost second nature.

mert szinte belénk van kódolva.

And when we get to know someone, we learn more about what makes them tick,

Amikor ismerkedünk valakivel, megtanuljuk, mitől nyílik meg,

and then we learn what topics we can discuss.

majd azt, hogy miről beszélgethetünk vele.

But when it comes to teaching AI systems how to interact with people,

Ha emberi kapcsolatokra kezdünk tanítani MI-rendszereket,

we have to teach them step by step what to do.

minden egyes lépést meg kell tanítanunk nekik.

And right now, it feels clunky.

Jelenleg pedig ez bénán hat.

If you've ever tried to talk with Alexa, Siri or Google Assistant,

Ha beszélgettek már Alexával, Sirivel, vagy a Google Assistanttel,

you can tell that it or they can still sound cold.

a rideg hangjuk még mindig feltűnő.

And have you ever gotten annoyed

Bosszankodtak már fel azért,

when they didn't understand what you were saying

mert azok nem értették, amit mondani akartak,

and you had to rephrase what you wanted 20 times just to play a song?

és 20-szor kellett átfogalmazni valamit, csak hogy egy dalt lejátsszanak?

Alright, to the credit of the designers, realistic communication is really hard.

Le a kalappal a tervezők előtt, mert a valószerű kommunikáció igen nehéz.

And there's a whole branch of sociology,

Aztán ott egy egész szociológiai ágazat:

called conversation analysis,

a társalgáselemzés,

that tries to make blueprints for different types of conversation.

mely az egyes társalgástípusok szerkezeti vázait készíti el,

Types like customer service or counseling, teaching and others.

mint pl. az ügyfélszolgálatit, tanácsadásit, tanári beszédét stb.

I've been collaborating with a conversation analyst at the lab

Egy társalgáselemzővel közösen a laborban

to try to help our AI systems hold more human-sounding conversations.

megpróbáltunk MI-rendszereket rábírni emberszerűbben hangzó társalgásokra.

This way, when you have an interaction with a chatbot on your phone

Ha kapcsolatba lépnének telefonjuk csevegőrobotjával,

or a voice-based system in the car,

vagy autójuk hangvezérlőjével,

it sounds a little more human and less cold and disjointed.

kissé emberibb, barátságosabb, összeszedettebb beszédet hallanának.

So I created a piece of art

Létrehoztam egy műalkotást

that tries to highlight the robotic, clunky interaction

amely szemlélteti a robotikus, béna kölcsönhatásokat,

to help us understand, as designers,

hogy tervezőként rájöhessünk,

why it doesn't sound human yet and, well, what we can do about it.

miért nem emberi hangzású még, és mit tehetünk, hogy az legyen.

The piece is called Bot to Bot

Az alkotás neve Bot to Bot,

and it puts one conversational system against another

és társalgási rendszereket beszéltet egymással,

and then exposes it to the general public.

és az eredményt közszemlére teszi.

And what ends up happening is that you get something

Legvégül pedig elénk kerül valami,

that tries to mimic human conversation,

ami az emberi beszédet majmolná,

but falls short.

de gyengének bizonyul.

Sometimes it works and sometimes it gets into these, well,

Néha működik, néha pedig elindulnak

loops of misunderstanding.

ezek a félreértés-ciklusok.

So even though the machine-to-machine conversation can make sense,

Még ha ezek a gép-gép társalgások

grammatically and colloquially,

nyelvtanilag s köznyelvileg értelmesek is,

it can still end up feeling cold and robotic.

még mindig ridegen, robotikusan hangzanak.

And despite checking all the boxes, the dialogue lacks soul

Annak ellenére, hogy minden kipipáltunk, a párbeszéd lélektelen,

and those one-off quirks that make each of us who we are.

hiányzik a sajátos sava-borsa, amitől azok vagyunk, amik.

So while it might be grammatically correct

Habár nyelvtanilag helyes,

and uses all the right hashtags and emojis,

a megfelelő hashtageket, emotikonokat használja,

it can end up sounding mechanical and, well, a little creepy.

mégis gépiesen hangzik, és igen, kissé irtóztató.

And we call this the uncanny valley.

Ezt hívjuk "borzongások völgyének".

You know, that creepiness factor of tech

A technikának az az irtóztató szintje,

where it's close to human but just slightly off.

ahol majdnem minden emberi, de csak majdnem.

And the piece will start being

Az alkotás pedig

one way that we test for the humanness of a conversation

módszer az emberi társalgás és azon részek tesztelésére,

and the parts that get lost in translation.

amelyek elvesztek a fordítás során.

So there are other things that get lost in translation, too,

Még más is elveszett a fordítás során.

like human intuition.

Pl. az emberi megérzés.

Right now, computers are gaining more autonomy.

Jelenleg a számítógépek több autonómiát szereznek.

They can take care of things for us,

Elintéznek helyettünk ezt-azt,

like change the temperature of our houses based on our preferences

pl. kedvünk szerint szabályozzák a ház hőmérsékletét,

and even help us drive on the freeway.

vagy segítenek az autópályán haladni.

But there are things that you and I do in person

De bizonyos személyesen végzett dolgokat

that are really difficult to translate to AI.

nagyon nehéz lefordítani az MI-nek.

So think about the last time that you saw an old classmate or coworker.

Mondjuk, ha meglátnák régi osztálytársuk vagy kollégájuk.

Did you give them a hug or go in for a handshake?

Megölelnék vagy kézfogással indítanának?

You probably didn't think twice

Nemigen haboznának,

because you've had so many built up experiences

mert a sok előzetes tapasztalat

that had you do one or the other.

egyiket vagy másikat előhozná.

And as an artist, I feel that access to one's intuition,

Művészként azt érzem, hogy a hozzáférés belsőnkhöz,

your unconscious knowing,

tudatalattink értelméhez

is what helps us create amazing things.

csodás dolgok létrehozásához segít hozzá.

Big ideas, from that abstract, nonlinear place in our consciousness

Nagy ötletek, abból az elvont, nemlineáris tudatalatti térből –

that is the culmination of all of our experiences.

ez élményeink összességének betetőződése.

And if we want computers to relate to us and help amplify our creative abilities,

Kreativitásunk kiterjesztését segítő, ránk hasonlító gépek létrehozásához

I feel that we'll need to start thinking about how to make computers be intuitive.

el kell kezdenünk gondolkodni azon, hogyan legyenek gépeink intuitívak.

So I wanted to explore how something like human intuition

Fel akartam tárni, hogyan ültethető át valami olyasmi,

could be directly translated to artificial intelligence.

mint az emberi intuíció, közvetlenül a mesterséges intelligenciába.

And I created a piece that explores computer-based intuition

Létrehoztam egy művet, mely feltárja a gépalapú intuíciót

in a physical space.

a fizikai térben.

The piece is called Wayfinding,

A mű neve Wayfinding, azaz Útkereső.

and it's set up as a symbolic compass that has four kinetic sculptures.

Mint egy szimbolikus iránytű, amin négy mozgó alakzat van,

Each one represents a direction,

és egy-egy égtájat testesítenek meg:

north, east, south and west.

észak, kelet, dél és nyugat.

And there are sensors set up on the top of each sculpture

Mindegyik test tetején érzékelő van,

that capture how far away you are from them.

ami érzékeli, milyen messze vannak tőle.

And the data that gets collected

Majd az összegyűlt adatok

ends up changing the way that sculptures move

megváltoztatják az alakzat mozgásirányát,

and the direction of the compass.

és hogy merre nézzen az iránytű.

The thing is, the piece doesn't work like the automatic door sensor

A lényeg, hogy nem úgy működik, mint az ajtóérzékelő,

that just opens when you walk in front of it.

ami automatikusan nyitja az ajtót, ha elé lépünk.

See, your contribution is only a part of its collection of lived experiences.

A hozzájárulásuk pedig csak része megélt élménygyűjteményének.

And all of those experiences affect the way that it moves.

Minden élménye hat mozgásirányára.

So when you walk in front of it,

Ha elmennek előtte,

it starts to use all of the data

felhasználja az összes adatot,

that it's captured throughout its exhibition history --

amit létezése alatt

vagy intuíciójából szerzett,

or its intuition --

to mechanically respond to you based on what it's learned from others.

hogy a másoktól tanultak alapján gépileg reagáljon.

And what ends up happening is that as participants

Majd résztvevőként eljutunk

we start to learn the level of detail that we need

a kellő részleteknek arra a szintjére,

in order to manage expectations

ami által sikerül mind a gépi,

from both humans and machines.

mind az emberi elvárásokkal megbirkózni.

We can almost see our intuition being played out on the computer,

Szinte látjuk intuíciónk kialakulását a számítógépen,

picturing all of that data being processed in our mind's eye.

ahogy a lelki szemeink feldolgozta összes adatot ábrázolja.

My hope is that this type of art

Remélem, hogy az efféle művészet

will help us think differently about intuition

segít másképp gondolkozni az intuícióról,

and how to apply that to AI in the future.

és ennek későbbi MI-beli alkalmazásáról.

So these are just a few examples of how I'm using art to feed into my work

Ez csak egy-két példa arra, hogyan szivárog bele a művészet

as a designer and researcher of artificial intelligence.

tervezői és MI-kutatói munkámba,

And I see it as a crucial way to move innovation forward.

ami szerintem létfontosságú az innovatív haladásban.

Because right now, there are a lot of extremes when it comes to AI.

Mert jelenleg az MI kapcsán sokféle túlzást lehet látni.

Popular movies show it as this destructive force

A népszerű filmek pusztító erőként mutatják be.

while commercials are showing it as a savior

A reklámok pedig

mint kiutat a világ legbonyolultabb problémáiból.

to solve some of the world's most complex problems.

But regardless of where you stand,

De bármelyik oldalon álljanak is,

it's hard to deny that we're living in a world

tagadhatatlan, hogy olyan világot élünk,

that's becoming more and more digital by the second.

ami percről percre jobban digitalizálódik.

Our lives revolve around our devices, smart appliances and more.

Életünk eszközeink, okos berendezéseink körül forog.

And I don't think this will let up any time soon.

Szerintem ez egyhamar nem fog megszűnni.

So, I'm trying to embed more humanness from the start.

Ezért próbálok több emberséget már az elején beléjük ágyazni.

And I have a hunch that bringing art into an AI research process

Az a gyanúm, hogy művészetet vinni az MI-kutatás folyamatába

is a way to do just that.

közelebb visz ehhez.

Thank you.

Köszönöm.

(Applause)

(Taps)