How we can teach computers to make sense of our emotions | Raphael Arar

Translator: Ivana Korom Reviewer: Joanna Pietrulewicz

Prevoditelj: Ivana Varga Recezent: Sanda L

I consider myself one part artist and one part designer.

Smatram se dijelom umjetnikom i dijelom dizajnerom.

And I work at an artificial intelligence research lab.

Radim u istraživačkom laboratoriju za umjetnu inteligenciju.

We're trying to create technology

Pokušavamo stvoriti tehnologiju

that you'll want to interact with in the far future.

s kakvom ćete htjeti komunicirati u daljnjoj budućnosti.

Not just six months from now, but try years and decades from now.

Ne samo šest mjeseci od sada, već godinama, desetljećima dalje.

And we're taking a moonshot

Mi predlažemo ambiciozan projekt:

that we'll want to be interacting with computers

da ćemo htjeti komunicirati s računalima

in deeply emotional ways.

na duboko emocionalne načine.

So in order to do that,

Pa, kako bismo to postigli,

the technology has to be just as much human as it is artificial.

tehnologija mora biti u istoj mjeri ljudska koliko i umjetna.

It has to get you.

Mora vas razumjeti.

You know, like that inside joke that'll have you and your best friend

Znate, poput privatne šale zbog koje vi i vaš najbolji prijatelj

on the floor, cracking up.

umirete od smijeha na podu.

Or that look of disappointment that you can just smell from miles away.

Ili ono razočaranje na licu koje možete vidjeti još izdaleka.

I view art as the gateway to help us bridge this gap between human and machine:

Za mene je umjetnost poveznica koja pomaže smanjiti jaz između ljudi i strojeva:

to figure out what it means to get each other

shvatiti što to znači kad se razumijemo,

so that we can train AI to get us.

tako da možemo obučiti umjetnu inteligenciju da nas razumije.

See, to me, art is a way to put tangible experiences

Vidite, meni je umjetnost sredstvo spajanja opipljiva iskustva

to intangible ideas, feelings and emotions.

s neopipljivim idejama, osjećajima i emocijama.

And I think it's one of the most human things about us.

Mislim da je to jedna od najljudskijih stvari u vezi s nama.

See, we're a complicated and complex bunch.

Znate, mi smo komplicirana i složena gomila.

We have what feels like an infinite range of emotions,

Imamo ono što se čini kao beskonačan raspon osjećaja,

and to top it off, we're all different.

a povrh toga, svi smo različiti.

We have different family backgrounds,

Imamo različita obiteljska porijekla,

different experiences and different psychologies.

različita iskustva i različitu psihologiju.

And this is what makes life really interesting.

To je ono što život čini stvarno zanimljivim.

But this is also what makes working on intelligent technology

No, to je ono što čini rad na inteligentnoj tehnologiji

extremely difficult.

iznimno teškim.

And right now, AI research, well,

I trenutno, istraživanje AI-a,

it's a bit lopsided on the tech side.

naginje na stranu tehnologije.

And that makes a lot of sense.

I to ima smisla.

See, for every qualitative thing about us --

Vidite, svaku kvalitativnu stvar u vezi s nama,

you know, those parts of us that are emotional, dynamic and subjective --

znate, te dijelove nas koji su emocionalni, dinamični i subjektivni,

we have to convert it to a quantitative metric:

moramo pretvoriti u kvantitativnu mjeru:

something that can be represented with facts, figures and computer code.

nešto što se može predstaviti činjenicama, brojevima i računalnim kodom.

The issue is, there are many qualitative things

Problem je što postoje mnoge kvalitativne stvari

that we just can't put our finger on.

koje ne možemo skroz razumjeti.

So, think about hearing your favorite song for the first time.

Zamislite da prvi put slušate svoju najdražu pjesmu.

What were you doing?

Što ste radili tada?

How did you feel?

Kako ste se osjećali?

Did you get goosebumps?

Jeste li se naježili?

Or did you get fired up?

Jeste li se uzbudili?

Hard to describe, right?

Teško je opisati, zar ne?

See, parts of us feel so simple,

Znate, neki se dijelovi nas čine jednostavni,

but under the surface, there's really a ton of complexity.

no, ispod površine ima hrpa složenosti.

And translating that complexity to machines

I prevesti tu kompleksnost strojevima

is what makes them modern-day moonshots.

ono je što je čini suvremenim lansiranjem na Mjesec.

And I'm not convinced that we can answer these deeper questions

Nisam uvjeren da možemo odgovoriti na ova dublja pitanja

with just ones and zeros alone.

samo pomoću jedinica i nula.

Stoga sam u laboratoriju stvarao umjetnost

So, in the lab, I've been creating art

as a way to help me design better experiences

na način na koji će mi pomoći dizajnirati bolja iskustva

for bleeding-edge technology.

za najnoviju tehnologiju.

And it's been serving as a catalyst

I ono služi kao pokretač

to beef up the more human ways that computers can relate to us.

za jačanje ljudskijih načina putem kojih se računala mogu poistovjetiti s nama.

Through art, we're tacking some of the hardest questions,

Putem umjetnosti, bavimo se nekim od najtežih pitanja,

like what does it really mean to feel?

recimo, što to točno znači "osjećati"?

Or how do we engage and know how to be present with each other?

Ili kako da se uključimo i znamo kako biti prisutni jedni s drugima?

And how does intuition affect the way that we interact?

I kako intuicija utječe na način na koji komuniciramo?

So, take for example human emotion.

Uzmimo za primjer ljudske osjećaje.

Right now, computers can make sense of our most basic ones,

Trenutno, računala mogu razumjeti ona najosnovnija,

like joy, sadness, anger, fear and disgust,

poput sreće, tuge, ljutnje, straha i gnušanja,

by converting those characteristics to math.

tako što pretvaraju te karakteristike u matematiku.

But what about the more complex emotions?

No, što je sa složenijim osjećajima?

You know, those emotions

Znate, onim osjećajima

that we have a hard time describing to each other?

koje nam je teško opisati jedni drugima?

Like nostalgia.

Poput nostalgije.

So, to explore this, I created a piece of art, an experience,

Dakle, kako bih to istražio, stvorio sam umjetninu, iskustvo,

that asked people to share a memory,

koje je tražilo od ljudi da podijele sjećanje

and I teamed up with some data scientists

i udružio sam se s podatkovnim znanstvenicima

to figure out how to take an emotion that's so highly subjective

da bih odgonetnuo kako uzeti emociju koja je toliko subjektivna

and convert it into something mathematically precise.

i pretvoriti je u nešto matematički precizno.

So, we created what we call a nostalgia score

Dakle, stvorili smo ono što zovemo rezultatom nostalgije

and it's the heart of this installation.

i on je sama srž ove instalacije.

To do that, the installation asks you to share a story,

Kako bismo to postigli, ova instalacija traži da joj kažete priču,

the computer then analyzes it for its simpler emotions,

računalo to zatim analizira u jednostavnije osjećaje,

it checks for your tendency to use past-tense wording

provjerava vašu sklonost k uporabi prošlog vremena,

and also looks for words that we tend to associate with nostalgia,

a traži i riječi koje povezujemo s nostalgijom,

like "home," "childhood" and "the past."

poput "dom", "djetinjstvo" i "prošlost".

It then creates a nostalgia score

Ono zatim definira rezultat nostalgije,

to indicate how nostalgic your story is.

kako bi odredilo koliko je vaša priča nostalgična.

And that score is the driving force behind these light-based sculptures

I taj je rezultat pokretačka sila iza ovih svjetlosnih skulptura,

that serve as physical embodiments of your contribution.

koje služe kao fizička utjelovljenja vašeg doprinosa.

And the higher the score, the rosier the hue.

Što je rezultat viši, ružičastija je boja.

You know, like looking at the world through rose-colored glasses.

Znate, kao da gledate na svijet ružičastim naočalama.

So, when you see your score

Dakle, kad vidite svoj rezultat

and the physical representation of it,

i njegov fizički prikaz,

sometimes you'd agree and sometimes you wouldn't.

ponekad ćete se složiti s njim, a ponekad ne.

It's as if it really understood how that experience made you feel.

To je kao da shvatite kako ste se osjećali zbog tog iskustva.

But other times it gets tripped up

No, koji put dođe do nekog zapleta

and has you thinking it doesn't understand you at all.

i onda mislite kako vas ne razumije uopće.

But the piece really serves to show

Međutim, skulptura stvarno dokazuje

that if we have a hard time explaining the emotions that we have to each other,

da ako nam je teško objasniti osjećaje jedni drugima,

how can we teach a computer to make sense of them?

kako onda možemo naučiti računalo da ih razumije?

So, even the more objective parts about being human are hard to describe.

Dakle, čak je i objektivnije aspekte čovjeka teško opisati.

Like, conversation.

Poput razgovora.

Have you ever really tried to break down the steps?

Jeste li ikad pokušali razložiti korake?

So think about sitting with your friend at a coffee shop

Zamislite da sjedite s prijateljem u kafiću

and just having small talk.

i samo čavrljate.

How do you know when to take a turn?

Kako znate kad je vaš red da pričate?

How do you know when to shift topics?

Kako znate kada promijeniti temu?

And how do you even know what topics to discuss?

I kako uopće znate o kojim temama raspravljati?

See, most of us don't really think about it,

Većina nas zapravo ne razmišlja puno o tome,

because it's almost second nature.

jer nam to dolazi prirodno.

And when we get to know someone, we learn more about what makes them tick,

Pa kad se pobliže upoznamo s nekim, naučimo o tome što ih određuje

and then we learn what topics we can discuss.

i onda naučimo o kojim temama možemo raspravljati.

But when it comes to teaching AI systems how to interact with people,

No, kad se radi o učenju AI sustava kako komunicirati s ljudima,

we have to teach them step by step what to do.

moramo ih naučiti korak po korak što treba činiti.

And right now, it feels clunky.

Trenutno, ono se čini nezgrapnim.

If you've ever tried to talk with Alexa, Siri or Google Assistant,

Ako ste ikad pokušali razgovarati s Alexom, Siri ili Googleovim pomoćnikom,

you can tell that it or they can still sound cold.

možete uvidjeti da ona još uvijek zvuče hladno.

And have you ever gotten annoyed

I jeste li se ikad uzrujali

when they didn't understand what you were saying

kad ona nisu razumjela što ste im govorili

and you had to rephrase what you wanted 20 times just to play a song?

pa ste morali 20 puta mijenjati upit, samo da biste čuli željenu pjesmu?

Alright, to the credit of the designers, realistic communication is really hard.

Dobro, u obranu dizajnera, realistična komunikacija stvarno je teška.

And there's a whole branch of sociology,

I postoji cijela grana sociologije,

called conversation analysis,

zvana konverzacijska analiza,

that tries to make blueprints for different types of conversation.

koja pokušava napraviti nacrte za različite vrste razgovora.

Types like customer service or counseling, teaching and others.

Vrste poput korisničke podrške ili savjetovanja, poučavanja i ostalo.

I've been collaborating with a conversation analyst at the lab

Surađivao sam s konverzacijskim analitičarem u laboratoriju,

to try to help our AI systems hold more human-sounding conversations.

kako bih pokušao pomoći našim AI sustavima da zvuče više kao ljudi u razgovoru.

This way, when you have an interaction with a chatbot on your phone

Na taj način, kad komunicirate s chatbotom na mobitelu

or a voice-based system in the car,

ili s glasovnim sustavom u autu,

it sounds a little more human and less cold and disjointed.

ono zvuči više kao osoba, a manje hladna i udaljena.

So I created a piece of art

Zato sam stvorio umjetninu

that tries to highlight the robotic, clunky interaction

koja pokušava naglasiti robotsku, nezgrapnu interakciju,

to help us understand, as designers,

kako bi nama dizajnerima pomogla razumjeti

why it doesn't sound human yet and, well, what we can do about it.

zašto još uvijek ne zvuči ljudski i što mi tu možemo napraviti.

The piece is called Bot to Bot

Ovaj komad zove se Bot to bot

and it puts one conversational system against another

i stavlja jedan konverzacijski sustav nasuprot drugom,

and then exposes it to the general public.

a onda to izlaže javnosti.

And what ends up happening is that you get something

I onda se dogodi da dobijete nešto

that tries to mimic human conversation,

što pokušava preslikati ljudski razgovor,

but falls short.

ali ne uspijeva.

Sometimes it works and sometimes it gets into these, well,

Ponekad ono radi, a ponekad zapadne u neke

loops of misunderstanding.

oblike nesporazuma.

So even though the machine-to-machine conversation can make sense,

Zato, iako razgovor stroja sa strojem može imati smisla,

grammatically and colloquially,

gramatički i kolokvijalno,

it can still end up feeling cold and robotic.

ono i dalje može zvučati hladno i robotski.

And despite checking all the boxes, the dialogue lacks soul

I unatoč tome što ispunjava sve zahtjeve, nema duše u dijalogu

and those one-off quirks that make each of us who we are.

i one jedinstvene posebnosti koje svatko od nas ima.

So while it might be grammatically correct

Pa iako jest gramatički točno

and uses all the right hashtags and emojis,

i koristi se svim pravim hashtagovima i emotikonima,

it can end up sounding mechanical and, well, a little creepy.

ipak može zvučati mehanički i malo jezivo.

And we call this the uncanny valley.

To nazivamo jezovitom dolinom.

You know, that creepiness factor of tech

Znate, čimbenik jeze za tehnologiju

where it's close to human but just slightly off.

koja je gotovo ljudska, ali ipak malo nedostaje da to bude.

And the piece will start being

Umjetnina će biti određena

one way that we test for the humanness of a conversation

kad budemo ispitivali ljudskost razgovora

and the parts that get lost in translation.

i dijelove koji su se izgubili u prijevodu.

So there are other things that get lost in translation, too,

Postoje i druge stvari koje se izgube u prijevodu,

like human intuition.

poput ljudske intuicije.

Right now, computers are gaining more autonomy.

Trenutno, računala stječu sve veću samostalnost.

They can take care of things for us,

Mogu preuzeti neke naše brige,

like change the temperature of our houses based on our preferences

poput promjene temperature u našim domovima u skladu s našim željama,

and even help us drive on the freeway.

čak nam pomoći i u vožnji autocestom.

But there are things that you and I do in person

No, postoje stvari koje vi i ja radimo uživo,

that are really difficult to translate to AI.

koje je vrlo teško prevesti za AI.

So think about the last time that you saw an old classmate or coworker.

Pomislite na zadnji put kad ste vidjeli starog školskog prijatelja ili kolegu.

Did you give them a hug or go in for a handshake?

Jeste li ih zagrlili ili se samo rukovali s njima?

You probably didn't think twice

Vjerojatno niste o tome puno dvojili,

because you've had so many built up experiences

jer ste imali toliko pohranjenih iskustava

that had you do one or the other.

da ste morali učiniti ili jedno ili drugo.

And as an artist, I feel that access to one's intuition,

Kao umjetnik, smatram da je pristup nečijoj intuiciji,

your unconscious knowing,

vašem nesvjesnom znanju,

is what helps us create amazing things.

ono što nam pomaže stvoriti nevjerojatne stvari.

Big ideas, from that abstract, nonlinear place in our consciousness

Velike ideje iz tog apstraktnog, nelinearnog mjesta u našoj svjesti,

that is the culmination of all of our experiences.

koje je vrhunac svog našeg iskustva.

And if we want computers to relate to us and help amplify our creative abilities,

I ako želimo da nas računala razumiju i povećaju naše kreativne sposobnosti,

I feel that we'll need to start thinking about how to make computers be intuitive.

onda smatram da ćemo morati razmišljati o tome kako učiniti računala intuitivnima.

So I wanted to explore how something like human intuition

Zato sam htio istražiti kako se nešto poput ljudske intuicije,

could be directly translated to artificial intelligence.

može izravno prevesti za umjetnu inteligenciju.

And I created a piece that explores computer-based intuition

Stvorio sam umjetninu koja istražuje računalnu intuiciju

in a physical space.

u fizičkom prostoru.

The piece is called Wayfinding,

Zove se Wayfinding

and it's set up as a symbolic compass that has four kinetic sculptures.

i oblikovana je kao simbolički kompas koji ima četiri kinetičke skulpture.

Each one represents a direction,

Svaka od njih predstavlja smjer;

north, east, south and west.

sjever, istok, jug i zapad.

And there are sensors set up on the top of each sculpture

Na vrhu svake skulpture su senzori

that capture how far away you are from them.

koji snimaju koliko ste udaljeni od njih.

And the data that gets collected

Svi ti prikupljeni podaci

ends up changing the way that sculptures move

na kraju mijenjaju pokret skulpture

and the direction of the compass.

i smjer kompasa.

The thing is, the piece doesn't work like the automatic door sensor

Stvar je u tome da umjetnina ne reagira poput senzora na automatskim vratima,

that just opens when you walk in front of it.

koja se jednostavno otvore kad im priđete.

See, your contribution is only a part of its collection of lived experiences.

Znate, vaš doprinos samo je dio njezine zbirke proživljenih iskustava.

And all of those experiences affect the way that it moves.

I sva ta iskustva utječu na način na koji se kreće.

So when you walk in front of it,

Tako da kad hodate pred njom,

it starts to use all of the data

ona počinje koristiti sve svoje podatke

that it's captured throughout its exhibition history --

koje je prikupila tijekom svoje izložbene povijesti,

or its intuition --

ili svoju intuiciju,

to mechanically respond to you based on what it's learned from others.

kako bi mehanički reagirala na vas temeljeno na prikupljenom od drugih.

And what ends up happening is that as participants

Na kraju se dogodi da kao sudionici

we start to learn the level of detail that we need

počinjemo učiti količinu detalja koji su nam potrebni

in order to manage expectations

kako bismo upravljali očekivanjima

from both humans and machines.

i ljudi i strojeva.

We can almost see our intuition being played out on the computer,

Gotovo da možemo vidjeti kako se naša intuicija odvija na računalu,

picturing all of that data being processed in our mind's eye.

zamisliti kako se svi ti podaci procesuiraju u našim mislima.

My hope is that this type of art

Moja želja je da će ova vrsta umjetnosti

will help us think differently about intuition

pomoći nam da drukčije razmišljamo o intuiciji

and how to apply that to AI in the future.

i kako to primijeniti na AI u budućnosti.

So these are just a few examples of how I'm using art to feed into my work

Ovo su samo neki od primjera kako koristim umjetnost za svoj posao,

as a designer and researcher of artificial intelligence.

kao dizajnera i istraživača umjetne inteligencije.

And I see it as a crucial way to move innovation forward.

Vidim to kao ključan način da unaprijedimo inovaciju.

Because right now, there are a lot of extremes when it comes to AI.

Jer trenutno, postoji mnogo ekstrema kad govorimo o AI-ju.

Popular movies show it as this destructive force

Popularni filmovi prikazuju ga kao silu koja uništava,

while commercials are showing it as a savior

dok ga reklame prikazuju kao spasitelja

to solve some of the world's most complex problems.

koji će rješiti sve najsloženije probleme svijeta.

But regardless of where you stand,

No, bez obzira na kojoj ste strani,

it's hard to deny that we're living in a world

teško je poreći da živimo u svijetu

that's becoming more and more digital by the second.

koji svakom sekundom postaje sve više digitalan.

Our lives revolve around our devices, smart appliances and more.

Životi nam se vrte oko spravica, pametnih uređaja i ostalog.

And I don't think this will let up any time soon.

I ne mislim da će se tu nešto skoro promijeniti.

So, I'm trying to embed more humanness from the start.

Stoga želim u to unijeti što više ljudskosti od samog početka.

And I have a hunch that bringing art into an AI research process

I slutim da je dovođenje umjetnosti u istraživanje AI-ja

is a way to do just that.

upravo način kako to učiniti.

Thank you.

Hvala vam.

(Applause)

(Pljesak)