How we can teach computers to make sense of our emotions | Raphael Arar

Translator: Ivana Korom Reviewer: Joanna Pietrulewicz

Översättare: Susanne Mickelsson Sparv Granskare: Annika Bidner

I consider myself one part artist and one part designer.

Jag ser mig själv som hälften konstnär och hälften designer.

And I work at an artificial intelligence research lab.

Och jag jobbar i ett labb för artificiell intelligens.

We're trying to create technology

Vi försöker skapa teknik

that you'll want to interact with in the far future.

som du kommer att vilja interagera med långt in i framtiden.

Not just six months from now, but try years and decades from now.

Inte bara om ett halvår, utan om åratal och decennier.

And we're taking a moonshot

Och vi vågar chansa på

that we'll want to be interacting with computers

att vi kommer att vilja interagera med datorer

in deeply emotional ways.

på djupt känslomässiga sätt.

So in order to do that,

Så för att kunna göra det,

the technology has to be just as much human as it is artificial.

måste teknologin vara lika mänsklig som den är artificiell.

It has to get you.

Den måste förstå dig.

You know, like that inside joke that'll have you and your best friend

Som det där interna skämtet som får dig och din bästa vän

on the floor, cracking up.

att vrida er av skratt.

Or that look of disappointment that you can just smell from miles away.

Eller den där besvikna blicken som du ser på långt håll.

I view art as the gateway to help us bridge this gap between human and machine:

Konst är nyckeln till

att överbygga klyftan mellan människa och maskin:

to figure out what it means to get each other

till att ta reda på vad det betyder att förstå varandra

so that we can train AI to get us.

så att vi kan träna AI att förstå oss.

See, to me, art is a way to put tangible experiences

För mig är konst ett sätt att skapa konkreta upplevelser

to intangible ideas, feelings and emotions.

av abstrakta idéer och känslor.

And I think it's one of the most human things about us.

Jag tror att det är något av det mänskligaste med oss.

See, we're a complicated and complex bunch.

Vi är ett komplicerat och komplext gäng.

We have what feels like an infinite range of emotions,

Vi har vad som känns som ett oändligt register av känslor

and to top it off, we're all different.

och dessutom är vi alla olika.

We have different family backgrounds,

Vi kommer från olika familjebakgrunder,

different experiences and different psychologies.

har olika erfarenheter och olika psyken.

And this is what makes life really interesting.

Det är vad som gör livet väldigt intressant.

But this is also what makes working on intelligent technology

Men det gör också arbetet med intelligent teknologi

extremely difficult.

otroligt svårt.

And right now, AI research, well,

För stunden så är AI-forskningen, tja,

it's a bit lopsided on the tech side.

den är lite skev på den tekniska sidan.

And that makes a lot of sense.

Och det är förståeligt.

See, for every qualitative thing about us --

Varje kvalitativ del av oss -

you know, those parts of us that are emotional, dynamic and subjective --

de delar som är känslomässiga, dynamiska och subjektiva -

we have to convert it to a quantitative metric:

måste omvandlas till ett kvantitativt mått:

something that can be represented with facts, figures and computer code.

något som kan återges genom fakta, siffror och datorkod.

The issue is, there are many qualitative things

Problemet är att det finns många kvalitativa saker

that we just can't put our finger on.

som vi inte kan sätta fingret på.

So, think about hearing your favorite song for the first time.

Tänk på när du hörde din favoritlåt för första gången.

What were you doing?

Vad gjorde du?

How did you feel?

Hur kändes det?

Did you get goosebumps?

Fick du gåshud?

Or did you get fired up?

Eller blev du taggad?

Hard to describe, right?

Svårt att beskriva, eller hur?

See, parts of us feel so simple,

Vissa delar av oss verkar så enkla,

but under the surface, there's really a ton of complexity.

men under ytan är det väldigt komplext.

And translating that complexity to machines

Och att föra över den komplexiteten till maskiner

is what makes them modern-day moonshots.

är vad som gör dem till så djärva satsningar.

And I'm not convinced that we can answer these deeper questions

Jag är inte säker på att vi kan besvara så djupa frågor

with just ones and zeros alone.

med enbart ettor och nollor.

So, in the lab, I've been creating art

Så i labbet har jag skapat konst

as a way to help me design better experiences

som hjälpmedel för att designa bättre erfarenheter

for bleeding-edge technology.

för spjutspetsteknik.

And it's been serving as a catalyst

Det har blivit en katalysator

to beef up the more human ways that computers can relate to us.

som har förstärkt de mänskliga sätt som datorer kan relatera till oss.

Through art, we're tacking some of the hardest questions,

Genom konst tar vi itu med några av de svåraste frågorna,

like what does it really mean to feel?

som vad betyder det egentligen att känna?

Or how do we engage and know how to be present with each other?

Eller hur tar vi kontakt, och hur vet vi hur vi ska vara tillsammans med varandra?

And how does intuition affect the way that we interact?

Hur påverkar intuition sättet som vi umgås?

So, take for example human emotion.

Ta exempelvis mänskliga känslor.

Right now, computers can make sense of our most basic ones,

Just nu kan datorer förstå våra mest grundläggande,

like joy, sadness, anger, fear and disgust,

så som glädje, sorg, ilska, rädsla och avsmak,

by converting those characteristics to math.

genom att omvandla de egenskaperna till matte.

But what about the more complex emotions?

Men hur blir det med de mer komplexa känslorna?

You know, those emotions

Sådana känslor

that we have a hard time describing to each other?

som vi har svårt att beskriva för varandra?

Like nostalgia.

Som nostalgi.

So, to explore this, I created a piece of art, an experience,

För att undersöka detta skapade jag ett konstverk, en upplevelse,

that asked people to share a memory,

som bad folk dela med sig av ett minne,

and I teamed up with some data scientists

och jag samarbetade med några dataforskare

to figure out how to take an emotion that's so highly subjective

för att räkna ut

hur man kan ta en känsla som är så subjektiv

and convert it into something mathematically precise.

och omvandla den till något matematiskt exakt.

So, we created what we call a nostalgia score

Vi skapade vad vi kallar en nostalgipoäng

and it's the heart of this installation.

som utgör hjärtat i den här installationen.

To do that, the installation asks you to share a story,

För att göra det ber installationen dig att dela med dig av en berättelse.

the computer then analyzes it for its simpler emotions,

Dess enklare känslor analyseras av datorn

it checks for your tendency to use past-tense wording

som ser hur mycket du använder dåtid i formuleringar

and also looks for words that we tend to associate with nostalgia,

och letar efter ord som brukar associeras med nostalgi,

like "home," "childhood" and "the past."

som "hem", "barndom" och "det förflutna".

It then creates a nostalgia score

Därefter skapar den en nostalgipoäng

to indicate how nostalgic your story is.

som visar hur nostalgisk berättelsen är.

And that score is the driving force behind these light-based sculptures

Den poängen är drivkraften bakom de här ljusbaserade skulpturerna

that serve as physical embodiments of your contribution.

som förkroppsligar bidragen.

And the higher the score, the rosier the hue.

Och ju högre poäng, desto mer rosa nyans.

You know, like looking at the world through rose-colored glasses.

Ni vet, som att se på världen genom rosa glasögon.

So, when you see your score

Så när man ser sin poäng

and the physical representation of it,

och den fysiska representationen av den,

sometimes you'd agree and sometimes you wouldn't.

håller man ibland med, och ibland inte.

It's as if it really understood how that experience made you feel.

Det är som om den faktiskt förstod hur upplevelsen fick dig att känna.

But other times it gets tripped up

Men andra gånger blir det fel

and has you thinking it doesn't understand you at all.

så att man tänker att den inte förstår något alls.

But the piece really serves to show

Men verket visar verkligen

that if we have a hard time explaining the emotions that we have to each other,

att om det är svårt att förklara våra känslor för varandra

how can we teach a computer to make sense of them?

hur ska vi då kunna lära en dator att förstå dem?

So, even the more objective parts about being human are hard to describe.

Mer objektiva saker kan också vara svåra att beskriva.

Like, conversation.

Exempelvis ett samtal.

Have you ever really tried to break down the steps?

Har ni någonsin försökt att bryta ner det till mindre steg?

So think about sitting with your friend at a coffee shop

Tänk dig att du sitter på ett fik med en vän

and just having small talk.

och bara småpratar.

How do you know when to take a turn?

Hur vet du när det är din tur?

How do you know when to shift topics?

När du kan byta samtalsämne?

And how do you even know what topics to discuss?

Och hur vet du ens vilka ämnen som kan diskuteras?

See, most of us don't really think about it,

De flesta av oss tänker inte på det

because it's almost second nature.

för det är så naturligt.

And when we get to know someone, we learn more about what makes them tick,

När vi lär känna någon, lär vi oss hur de fungerar,

and then we learn what topics we can discuss.

och sedan lär vi oss vilka ämnen vi kan prata om.

But when it comes to teaching AI systems how to interact with people,

Men när AI-system ska lära sig att interagera med människor,

we have to teach them step by step what to do.

måste vi lära dem vad de ska göra steg för steg.

And right now, it feels clunky.

Och just nu känns det klumpigt.

If you've ever tried to talk with Alexa, Siri or Google Assistant,

Om du någon gång har pratat med Alexa, Siri eller Google Assistant,

you can tell that it or they can still sound cold.

så hör du att den eller hen fortfarande kan låta kylig.

And have you ever gotten annoyed

Och har du blivit irriterad

when they didn't understand what you were saying

när de inte förstår vad du säger

and you had to rephrase what you wanted 20 times just to play a song?

och du måste omformulera dig 20 gånger bara för att spela en låt?

Alright, to the credit of the designers, realistic communication is really hard.

Men till skaparnas försvar, så är realistisk kommunikation väldigt svårt.

And there's a whole branch of sociology,

Och det finns en hel gren inom sociologin,

called conversation analysis,

som kallas för samtalsanalys,

that tries to make blueprints for different types of conversation.

som försöker skapa scheman för olika slags samtal.

Types like customer service or counseling, teaching and others.

Exempelvis kundservice eller rådgivning, undervisning och annat.

I've been collaborating with a conversation analyst at the lab

Jag har samarbetat med en samtalsanalytiker i labbet

to try to help our AI systems hold more human-sounding conversations.

för att försöka hjälpa våra AI-system föra mer människoliknande samtal.

This way, when you have an interaction with a chatbot on your phone

Så när du interagerar med en chattbot i din telefon

or a voice-based system in the car,

eller ett röstbaserat system i bilen,

it sounds a little more human and less cold and disjointed.

så låter det lite mänskligare och mindre kyligt och osammanhängande.

So I created a piece of art

Så jag skapade ett konstverk

that tries to highlight the robotic, clunky interaction

som försöker belysa det stela, klumpiga samspelet

to help us understand, as designers,

för att hjälpa oss designers att förstå

why it doesn't sound human yet and, well, what we can do about it.

varför det inte låter mänskligt än, och vad vi kan göra åt det.

The piece is called Bot to Bot

Verket heter Bot to Bot

and it puts one conversational system against another

och det ställer ett samtalssystem

mot ett annat

and then exposes it to the general public.

och visar sedan upp det för allmänheten.

And what ends up happening is that you get something

Det som händer är att man får något

that tries to mimic human conversation,

som försöker efterlikna mänskligt samtal

but falls short.

men misslyckas.

Sometimes it works and sometimes it gets into these, well,

Ibland fungerar det och ibland hamnar det i

loops of misunderstanding.

loopar av missförstånd.

So even though the machine-to-machine conversation can make sense,

Så trots att samtalet mellan maskinerna kan vara förståeligt

grammatically and colloquially,

grammatiskt och språkligt,

it can still end up feeling cold and robotic.

så kan det ändå kännas kallt och robotliknande.

And despite checking all the boxes, the dialogue lacks soul

Trots att allt är korrekt, så saknar samtalet själ

and those one-off quirks that make each of us who we are.

och de där små egenheterna som gör oss alla till de vi är.

So while it might be grammatically correct

Trots att det kan vara grammatiskt korrekt

and uses all the right hashtags and emojis,

och använda rätt hashtaggar och emojis

it can end up sounding mechanical and, well, a little creepy.

så kan det ända låta mekaniskt och en aning obehagligt.

And we call this the uncanny valley.

Det kallas för uncanny valley.

You know, that creepiness factor of tech

När teknologin blir otäck eftersom

where it's close to human but just slightly off.

den nästan är mänsklig, men inte helt och hållet.

And the piece will start being

Konstverket kommer att vara

one way that we test for the humanness of a conversation

ett sätt att undersöka mänskligheten i samtal

and the parts that get lost in translation.

och vad som går förlorat i översättningen.

So there are other things that get lost in translation, too,

Andra saker går också förlorade i översättningen,

like human intuition.

som mänsklig intuition.

Right now, computers are gaining more autonomy.

Datorer håller för tillfället på att bli mer självgående.

They can take care of things for us,

De kan sköta saker åt oss,

like change the temperature of our houses based on our preferences

som att ändra temperaturen i våra hem utifrån det vi gillar.

and even help us drive on the freeway.

Till och med hjälpa oss att köra på motorvägen.

But there are things that you and I do in person

Men det finns saker som du och jag gör själva

that are really difficult to translate to AI.

som är väldigt svåra att föra över till AI.

So think about the last time that you saw an old classmate or coworker.

Tänk på senaste gången du träffade en gammal klasskamrat eller arbetskamrat.

Did you give them a hug or go in for a handshake?

Kramade du dem, eller skakade hand?

You probably didn't think twice

Du behövde nog inte tänka efter

because you've had so many built up experiences

eftersom du har så många erfarenheter

that had you do one or the other.

som fick dig att göra som du gjorde.

And as an artist, I feel that access to one's intuition,

Som konstnär tror jag att tillgång till intuition,

your unconscious knowing,

till undermedveten kunskap,

is what helps us create amazing things.

är vad som hjälper oss att skapa fantastiska saker.

Big ideas, from that abstract, nonlinear place in our consciousness

Stora idéer, från den där abstrakta, mångdimensionella platsen i medvetandet

that is the culmination of all of our experiences.

som är kulmen på alla våra erfarenheter.

And if we want computers to relate to us and help amplify our creative abilities,

Om vi vill att datorer ska relatera till oss,

och förstärka vår kreativa förmåga,

I feel that we'll need to start thinking about how to make computers be intuitive.

så måste vi börja tänka ut hur vi ska göra datorer intuitiva.

So I wanted to explore how something like human intuition

Så jag ville utforska hur något som mänsklig intuition

could be directly translated to artificial intelligence.

skulle kunna översättas direkt till artificiell intelligens.

And I created a piece that explores computer-based intuition

Och jag skapade ett verk som utforskar datorbaserad intuition

in a physical space.

i ett fysiskt utrymme.

The piece is called Wayfinding,

Verket heter Wayfinding,

and it's set up as a symbolic compass that has four kinetic sculptures.

och är utformat som en symbolisk kompass med fyra kinetiska skulpturer.

Each one represents a direction,

Varje del motsvarar en riktning,

north, east, south and west.

norr, öster, söder och väster.

And there are sensors set up on the top of each sculpture

Sensorer på ovansidan av varje skulptur

that capture how far away you are from them.

känner av hur långt bort från dem du är.

And the data that gets collected

Datan som samlas in

ends up changing the way that sculptures move

förändrar hur skulpturerna rör sig

and the direction of the compass.

och kompassens riktning.

The thing is, the piece doesn't work like the automatic door sensor

Men konstverket fungerar inte som automatiska skjutdörrar

that just opens when you walk in front of it.

som bara öppnas när man går framför dem.

See, your contribution is only a part of its collection of lived experiences.

Ditt bidrag är bara en del av dess samling av erfarenheter.

And all of those experiences affect the way that it moves.

Och alla de erfarenheterna påverkar hur den rör sig.

So when you walk in front of it,

Så när du går framför den,

it starts to use all of the data

börjar den använda all data

that it's captured throughout its exhibition history --

som den har samlat in under hela utställningens tid -

or its intuition --

eller sin intuition -

to mechanically respond to you based on what it's learned from others.

för att reagera på dig utifrån vad den har lärt sig från andra.

And what ends up happening is that as participants

Det som händer är att vi som deltagare

we start to learn the level of detail that we need

börjar lära oss vilken nivå av detaljer som behövs

in order to manage expectations

för att hantera förväntningar

from both humans and machines.

från både människor och maskiner.

We can almost see our intuition being played out on the computer,

Vi kan nästan se vår intuition spelas upp på datorn,

picturing all of that data being processed in our mind's eye.

föreställa oss all data som bearbetas i våra sinnen.

My hope is that this type of art

Jag hoppas att sådan här konst

will help us think differently about intuition

får oss att tänka på intuition på ett nytt sätt

and how to apply that to AI in the future.

och hur det kan appliceras på AI i framtiden.

So these are just a few examples of how I'm using art to feed into my work

Det är är bara några exempel på hur jag använder konst för att främja mitt arbete

as a designer and researcher of artificial intelligence.

som designer och forskare inom artificiell intelligens.

And I see it as a crucial way to move innovation forward.

Och jag ser det som ett nödvändigt sätt för fortsatt nyskapande.

Because right now, there are a lot of extremes when it comes to AI.

För just nu finns det många ytterligheter

när det gäller AI.

Popular movies show it as this destructive force

I filmer är det en destruktiv kraft

while commercials are showing it as a savior

medan det i reklam är lösningen

to solve some of the world's most complex problems.

på några av världens mest komplexa problem.

But regardless of where you stand,

Men oavsett vad man anser,

it's hard to deny that we're living in a world

så är det svårt att förneka att vår värld

that's becoming more and more digital by the second.

blir mer och mer digital för varje sekund.

Our lives revolve around our devices, smart appliances and more.

Våra liv kretsar kring våra apparater, smarta enheter och mer.

And I don't think this will let up any time soon.

Och det kommer nog inte att minska.

So, I'm trying to embed more humanness from the start.

Så jag försöker blanda in mer mänsklighet från början.

And I have a hunch that bringing art into an AI research process

Och att föra in konst i AI-forskningen tror jag

is a way to do just that.

är ett sätt att göra just det.

Thank you.

Tack.

(Applause)

(Applåder)