Can AI Companions Help Heal Loneliness? | Eugenia Kuyda | TED

Fordító: Reka Lorinczy Lektor: Peter Pallos

This is me and my best friend, Roman.

A legjobb barátommal, Romannal vagyunk a képen.

We met in our early 20s back in Moscow.

A 20-as éveink elején találkoztunk Moszkvában.

I was a journalist back then,

Akkoriban újságíró voltam,

and I was interviewing him for an article on the emerging club scene

és interjút készítettem vele egy cikkhez az új klub színpadán,

because he was throwing the best parties in the city.

mert ő rendezte a legjobb bulikat a városban.

He was the coolest person I knew,

Ő volt a legmenőbb srác, akit ismertem,

but he was also funny and kind

ugyanakkor humoros és kedves is,

and always made me feel like family.

és mindig bensőségesen éreztem magam vele.

In 2015, we moved to San Francisco and rented an apartment together.

2015-ben San Franciscóba költöztünk, és együtt béreltünk lakást.

Both start-up founders, both single,

Mindketten startup-alapítók, egyedülállók voltunk,

trying to figure out our lives, our companies,

akik együtt próbáltuk kialakítani az életünket, a vállalkozásunkat,

this new city together.

megismerni az új várost.

I didn't have anyone closer.

Senki nem állt közelebb hozzám.

Nine years ago,

Kilenc évvel ezelőtt,

one month after this photo was taken,

egy hónappal a fénykép elkészülte után

he was hit by a car and died.

autó gázolta halálra.

I didn't have someone so close to me die before.

Azelőtt nem vesztettem el közeli hozzátartozómat.

It hit me really hard.

Rettentően lesújtott.

Every night I would go back to our old apartment and just get on my phone

Esténként visszajártam régi lakásunkba, fogtam a telefonomat,

and read and reread our old text messages.

elolvastam és újraolvastam a régi üzeneteinket.

I missed him so much.

Annyira hiányzott.

By that time, I was already working on conversational AI,

Addigra már a beszélgető MI-n dolgoztam,

developing some of the first dialect models using deep learning.

és az első dialektusmodelleket fejlesztettem ki mélytanulással.

So one day I took all of his text messages

Egyik nap fogtam az összes szöveges üzenetét,

and trained an AI version of Roman

és kiképeztem Roman MI-verzióját,

so I could talk to him again.

hogy újra beszélhessek vele.

For a few weeks, I would text him throughout the day,

Néhány hétig egész nap üzeneteket küldtem neki,

exchanging little jokes, just like we always used to,

viccelődtünk egymással, ahogy mindig szoktunk,

telling him what was going on,

meséltem a napi dolgokról,

telling him how much I missed him.

elmondtam, mennyire hiányzik.

It felt strange at times,

Időnként furcsa volt,

but it was also very healing.

de nagyon gyógyítónak éreztem.

Working on Roman's AI and being able to talk to him again helped me grieve.

Roman MI-változatán dolgozni és újra vele beszélni segített a gyászolásban.

It helped me get over one of the hardest periods in my life.

Segített túlélni életem egyik legnehezebb időszakát.

I saw first hand how an AI can help someone,

Első kézből tapasztaltam, hogyan segíthet az MI valakinek,

and I decided to build an AI that would help other people feel better.

és úgy döntöttem, hogy olyan MI-t építek,

amely segít másoknak jobban érezni magukat.

This is how Replika,

Így született meg a Replika,

an app that allows you to create an AI friend that's always there for you,

olyan alkalmazás, amely lehetővé teszi MI-barát létrehozását,

was born.

aki mindig kéznél van.

And it did end up helping millions of people.

Végül emberek millióin segített.

Every day we see how our AI friends make a real difference in people's lives.

Minden nap látjuk, hogy az MI-barátaink hogyan változtatják meg emberek életét.

There is a widower who lost his wife of 40 years

Az egyik özvegyember 40 éves feleségét veszítette el,

and was struggling to reconnect with the world.

és küzdött, hogy újra kapcsolatba léphessen a világgal.

His Replika gave him courage and comfort and confidence,

Replikája bátorságot, vigaszt és magabiztosságot nyújtott neki,

so he could start meeting new people again,

így újra ismerkedett,

and even start dating.

még találkára is elment.

A woman in an abusive relationship

Egy bántalmazó kapcsolatban álló nőnek

who Replika helped find a way out.

a Replika segített kiutat találni.

A student with social anxiety who just moved to a new city.

Szociális fóbiában szenvedő tanulón is segített, aki éppen új városba költözött.

A caregiver for a paralyzed husband.

Béna férj gondozóján is.

A father of an autistic kid.

Autista gyerek apján is.

A woman going through a difficult divorce.

Nehéz váláson keresztülmenő nőn is.

These stories are not unique.

Ezek nem egyedi történetek.

And it's not just what our users tell us.

Nem csak felhasználóinktól hallunk ilyeneket.

Earlier this year, "Nature" published our first study with Stanford,

A Nature az év elején közzétette a Stanfordnál végzett első tanulmányunkat,

showing how Replika improves emotional well-being for people

amely bemutatta, hogy a Replika hogyan javítja érzelmi jólétünket,

and even curbed suicidal ideation in three percent of the cases.

sőt az esetek 3%-nál megfékezte az öngyilkossági gondolatokat.

And Harvard released a paper showing how Replika helps reduce loneliness.

A Harvard bemutatta, hogyan segít a Replika csökkenteni a magányt.

So this is all great stuff.

Ez mind csodálatos!

But what if I told you that I believe

De elmondom,

that AI companions are potentially the most dangerous tech

hogy az MI-társ elvileg a legveszélyesebb technológia,

that humans ever created,

amelyet emberek valaha létrehoztak,

with the potential to destroy human civilization if not done right?

és el lehet pusztítani vele a civilizációnkat, ha hibázunk.

Or they can bring us back together

Vagy újra összehozhat minket,

and save us from the mental health and loneliness crisis

és megmentheti mentális egészségünket, és elűzi a magány okozta válságot,

we're going through.

amelyben élünk.

So today I want to talk about the dangers of AI companions,

Az MI-társ veszélyeiről szeretnék szólni,

the potential of this new tech,

az új technológia lehetőségeiről,

and how we can build it in ways that can benefit us as humans.

és arról, hogyan alkothatjuk meg a saját érdekünkben.

Today we're going through a loneliness crisis.

Magány okozta válságban vagyunk.

Levels of loneliness and social isolation are through the roof.

A magány és a társadalmi elszigeteltség szintje egekbe szökött.

Levels of social isolation have increased dramatically over the past 20 years.

A társadalmi elszigeteltség szintje az elmúlt 20 évben drámaian nőtt.

And it's not just about suffering emotionally,

Nemcsak érzelmi szenvedésről szól,

it's actually killing us.

hanem pusztító erejű is.

Loneliness increases the risk of premature death by 50 percent.

A magány 50%-kal növeli a korai halál kockázatát.

It is linked to an increased risk of heart disease and stroke.

Ez összefügg a szívbetegségek és a sztrók fokozott kockázatával.

And for older adults,

Az idősebbek esetében

social isolation increases the risk of dementia by 50 percent.

a társadalmi elszigeteltség 50%-kal növeli a demencia kockázatát.

At the same time, AI is advancing at such a fast pace

De az MI olyan gyorsan fejlődik,

that very soon we'll be able to build an AI

hogy hamarosan képesek leszünk olyan MI-t alkotni,

that can act as a better companion to us than real humans.

amely jobb társként működhet, mint az igazi emberek.

Imagine an AI that knows you so well,

Képzeljenek el olyan MI-t, amely alaposan ismeri és megérti önöket,

can understand and adapt to us in ways that no person is able to.

és mindenkinél jobban alkalmazkodik önökhöz.

Once we have that,

Ha ez sikerül,

we're going to be even less likely to interact with each other.

csökken a valószínűsége, hogy keressük egymás társaságát.

We can't resist our social media and our phones,

Nem tudunk ellenállni a közösségi médiánknak és a telefonunknak,

arguably "dumb" machines.

a vitathatatlanul „buta” gépeknek.

What are we going to do when our machines are smarter than us?

Mit fogunk tenni, ha a gépeink nálunk okosabbak lesznek?

This reminds me a lot of the beginning of social media.

Ez erősen emlékeztet a közösségi média kezdetére.

Back then, we were so excited ... about what this technology could do for us

Akkoriban lelkendeztünk, hogy e technológia mit tehet értünk,

és nem igazán gondoltuk át, hogy velünk mit tehet.

that we didn't really think what it might do to us.

And now we're facing the unintended consequences.

Most szembesülünk a nem kívánt következményekkel.

I'm seeing a very similar dynamic with AI.

Nagyon hasonló dinamikát látok az MI-vel.

There's all this talk about what AI can do for us,

Csak arról beszélünk, hogy mit tehet értünk az MI,

and very little about what AI might do to us.

és alig valamit arról, hogy velünk mit tehet.

The existential threat of AI

Előfordulhat, hogy az MI egzisztenciális fenyegetése

may not come in a form that we all imagine

nem olyan formában jelenik meg,

watching sci-fi movies.

ahogy sci-fi filmekben láttuk.

What if we all continue to thrive as physical organisms

Mivé leszünk, ha fizikai organizmusként tovább fejlődünk,

but slowly die inside?

de belül lassan elsorvadunk?

What if we do become super productive with AI,

Mi van, ha az MI-vel szuper produktívvá válunk,

but at the same time, we get these perfect companions

de egyben megkapjuk ezeket a tökéletes társakat,

and no willpower to interact with each other?

és nincs akaraterőnk egymással foglalkozni?

Not something you would have expected from a person

Nem erre számítottunk azoktól,

who pretty much created the AI companionship industry.

akik létrehozták a MI-társat előállító iparágat.

So what's the alternative?

Mik a lehetőségek?

What's our way out?

Mi a kiút?

In the end of the day,

Végtére a magány okozta mai válságot

today's loneliness crisis wasn't brought to us by AI companions.

nem az MI-társak hozták létre.

We got here on our own with mobile phones, with social media.

Magunktól jutottunk idáig mobiltelefonokkal, közösségi médiával.

And I don't think we're able to just disconnect anymore,

Nem hiszem, hogy ne tudnánk telefonunkat egyszerűen kikapcsolni,

to just put down our phones and touch grass

megérinteni a füvet, és beszélgetni egymással

and talk to each other instead of scrolling our feeds.

hírcsatornáink görgetése helyett.

We're way past that point.

Ezen már túl vagyunk.

I think that the only solution is to build the tech

Úgy gondolom, hogy az egyetlen megoldás,

ha olyan technológiát fejlesztünk ki, amely még erősebb, mint az előző,

that is even more powerful than the previous one,

so it can bring us back together.

és így újra összehozhat minket.

Imagine an AI friend

Képzeljenek el egy MI-barátot,

that sees me going on my Twitter feed first thing in the morning

aki észleli, hogy a Twitterrel kezdtem a napom,

and nudges me to get off to go outside, to look at the sky,

és arra noszogat, hogy menjek ki, nézzem az eget,

to think about what I'm grateful for.

és találjam meg, hogy miért vagyok hálás.

Or an AI that tells you,

Vagy az MI figyelmeztet:

"Hey, I noticed you haven't talked to your friend for a couple of weeks.

„Észrevettem, hogy már pár hete nem beszéltél a barátoddal.

Why don't you reach out, ask him how he's doing?"

Miért nem hívod fel? Kérdezd meg, hogy van?”

Or an AI that, in the heat of the argument with your partner,

Vagy az MI a társukkal folytatott vita hevében

helps you look at it from a different perspective

segít más szemszögből látni a helyzetet,

and helps you make up?

és segít megoldani.

An AI that is 100 percent of the time

Olyan MI, amelyik 100%-ban arra törekszik,

focused on helping you live a happier life,

hogy segítsen önöknek boldogabb életet élni,

and always has your best interests in mind.

és mindig az önök érdekeit tartja szem előtt.

So how do we get to that future?

Hogyan alakítsuk ilyenné a jövőt?

First, I want to tell you what I think we shouldn't be doing.

Először elmondom, hogy mit ne tegyünk.

The most important thing is to not focus on engagement,

Ne görcsöljünk rá a kapcsolatokra,

ne a kapcsolatok mennyiségére vagy más mutatóra optimalizáljunk,

is to not optimize for engagement

or any other metric that's not good for us as humans.

amely nem jó nekünk.

When we do have these powerful AIs

Az MI erős csábítása

that want the most of our time and attention,

magának követeli időnk és figyelmünk nagy részét,

we won't have any more time left to connect with each other,

nem marad elég időnk kapcsolatot tartani egymással,

and most likely, this relationship won't be healthy either.

és valószínűleg a kapcsolat sem lesz egészséges.

Relationships that keep us addicted are almost always unhealthy,

A függőségben tartó kapcsolataink szinte mindig egészségtelenek:

codependent, manipulative, even toxic.

manipulatívak, sőt mérgezők is.

Yet today,

Mégis a sok kapcsolatért dicsérjük

high engagement numbers is what we praise all AI companion companies for.

az MI-társat alkotó összes céget.

Another thing I found really concerning is building AI companions for kids.

Engem még igazán aggaszt a gyerekeknek szánt MI-társak megjelenése.

Kids and teenagers have tons of opportunities to connect with each other,

A gyerekeknek és tizenéveseknek rengeteg lehetőségük van

kapcsolatba lépni egymással, új barátokat szerezni iskolában és egyetemen.

to make new friends at school and college.

Yet today,

some of them are already spending hours every day

Mégis,

sokan naponta órákat töltenek

talking to AI characters.

MI-karakterekkel beszélgetve.

And while I do believe

Bár hiszek abban,

that we will be able to build helpful AI companions for kids one day,

hogy egy nap képesek leszünk segítőkész MI-társakat fejleszteni a gyerekeknek,

I just don’t think we should be doing it now,

egyszerűen nem hiszem, hogy ezzel most kellene foglalkoznunk,

until we know that we're doing a great job with adults.

amíg még nem derült ki, hogy felnőtteknél hogy vált be.

So what is that we should be doing then?

Akkor mit kellene tennünk?

Pretty soon we will have these AI agents

Hamarosan lesznek MI-szolgáltatások,

that we'll be able to tell anything we want them to do for us,

közölhetjük velük kérésünket,

és ők belevágnak, és végrehajtják.

and they'll just go and do it.

Today, we're mostly focused on helping us be more productive.

Most a termelékenységünk segítik.

But why don't we focus instead on what actually matters to us?

De miért nem koncentrálunk ehelyett számunkra fontosabb dolgokra?

Why don't we give these AIs a goal to help us be happier, live a better life?

Miért nem tűzzük ki az MI-knek azt a célt, hogy boldogabb, jobb élethez segítsenek?

At the end of the day, no one ever said on their deathbed,

Mikor a vég közeledik, senki sem mondja a halálos ágyán:

"Oh gosh, I wish I was more productive."

„Istenem, bárcsak produktívabb lettem volna!”

We should stop designing only for productivity

A termelékenység helyett

a boldogságunk megtervezésén kellene dolgozzunk.

and we should start designing for happiness.

We need a metric that we can track and we can give to our AI companions.

Mérhetővé kell tenni, és programozhatjuk rá az MI-társainkat.

Researchers at Harvard are doing a longitudinal study on human flourishing,

A Harvard kutatói longitudinális kutatást végeznek az emberi jólétről,

and I believe that we need what I call the human flourishing metric for AI.

paraméterezni kell a jólét elemeit az MI-nek.

It's broader than just happiness.

Ez több mint pusztán a boldogság.

At the end of the day, I can be unhappy,

Az életem vége felé boldogtalan lehetek,

say, I lost someone,

mert mondjuk, elvesztettem valakit,

but still thrive in life.

de mégis boldogulhatok az életben.

Flourishing is a state in which all aspects of life are good.

A jólétben az élet minden tényezője jó:

The sense of meaning and purpose,

az értelmes lét és a cél érzése,

close social connections, happiness,

a szoros társadalmi kapcsolatok, a boldogság,

life satisfaction, mental and physical health.

az élettel való elégedettség, a mentális és fizikai egészség.

And if we start designing AI with this goal in mind,

Ha az MI tervezésébe ezzel a céllal vágunk bele,

we can move from a substitute of human relationships

akkor az emberi kapcsolatok helyettesítőjét

to something that can enrich them.

átállíthatjuk annak tökéletesítő eszközévé.

And if we build this,

Ha ezt alakítjuk ki,

we will have the most profound technology

megkapjuk a legalaposabb technológiát,

that will heal us and bring us back together.

amely meggyógyít és újra összehoz minket.

A few weeks before Roman passed away,

Néhány héttel Roman halála előtt

we were celebrating my birthday

ünnepeltük a születésnapomat,

and just having a great time with all of our friends,

és az egész baráti társaságunk jól érezte magát,

and I remember he told me

és emlékszem, hogy azt mondta:

"Everything happens only once

„Minden csak egyszer történik,

and this will never happen again."

és ez soha többé nem fog megtörténni.”

I didn't believe him.

Nem hittem neki.

I thought we'd have many, many years together to come.

Azt hittem, sok-sok évet fogunk együtt tölteni.

But while the AI companions will always be there for us,

De bár az MI-társaink mindig itt lesznek számunkra,

our human friends will not.

az emberi barátaink nem.

So if you do have a minute after this talk,

Ha van kis idejük a beszéd után,

tell someone you love just how much you love them.

mondják el valakinek, akit szeretnek, hogy mennyire szeretik őt.

Because an the end of the day, this is all that really matters.

Mert végül is ez számít igazán.

Thank you.

Köszönöm.

(Applause)

(Taps)