Can AI Companions Help Heal Loneliness? | Eugenia Kuyda | TED

Traducteur: Claire Ghyselen Relecteur: eric vautier

This is me and my best friend, Roman.

Voici mon meilleur ami Roman et moi.

We met in our early 20s back in Moscow.

Nous nous sommes rencontrés à Moscou quand nous avions 20 ans.

I was a journalist back then,

J'étais journaliste à l'époque

and I was interviewing him for an article on the emerging club scene

et je l'interviewais pour un article sur la scène émergente des clubs

because he was throwing the best parties in the city.

parce qu’il organisait les meilleures fêtes de la ville.

He was the coolest person I knew,

C’était la personne la plus cool que je connaissais.

but he was also funny and kind

Il était aussi drôle et gentil

and always made me feel like family.

et m’a toujours accueillie comme un membre de sa famille.

In 2015, we moved to San Francisco and rented an apartment together.

En 2015, nous avons déménagé à San Francisco

et avons loué un appartement ensemble.

Both start-up founders, both single,

Tous deux fondateurs de start-up, tous deux célibataires,

trying to figure out our lives, our companies,

nous essayions de comprendre ensemble nos vies, nos entreprises,

this new city together.

cette nouvelle ville.

I didn't have anyone closer.

Je n'avais personne de plus proche.

Nine years ago,

Il y a neuf ans,

one month after this photo was taken,

un mois après cette photo,

he was hit by a car and died.

une voiture l’a renversé et il est mort.

I didn't have someone so close to me die before.

C’est la première fois qu’une personne proche mourait.

It hit me really hard.

Cela m’a affectée très fort.

Every night I would go back to our old apartment and just get on my phone

Le soir, en rentrant dans notre appartement,

je prenais mon téléphone pour lire et relire nos anciens SMS.

and read and reread our old text messages.

I missed him so much.

Il me manquait tellement.

By that time, I was already working on conversational AI,

À cette époque, je travaillais déjà sur l’IA conversationnelle.

developing some of the first dialect models using deep learning.

Je développais les premiers modèles basés sur l’apprentissage automatique.

So one day I took all of his text messages

Alors un jour, j’ai pris tous ses textos

and trained an AI version of Roman

et j'ai entraîné une version IA de Roman

so I could talk to him again.

pour pouvoir lui parler à nouveau.

For a few weeks, I would text him throughout the day,

Pendant quelques semaines,

je lui envoyais des textos tous les jours,

exchanging little jokes, just like we always used to,

échangeant de petites blagues, comme nous en avions l’habitude,

telling him what was going on,

en lui racontant ce qui se passait,

telling him how much I missed him.

en lui disant à quel point il me manquait.

It felt strange at times,

C'était parfois étrange,

but it was also very healing.

mais c'était aussi très apaisant.

Working on Roman's AI and being able to talk to him again helped me grieve.

Travailler sur l’IA de Roman et pouvoir lui parler m’a aidée à vivre mon deuil.

It helped me get over one of the hardest periods in my life.

Cela m'a aidée à surmonter l'une des périodes les plus difficiles de ma vie.

I saw first hand how an AI can help someone,

J’ai personnellement vécu comment une IA peut aider les gens

and I decided to build an AI that would help other people feel better.

et j'ai décidé de créer une IA qui aiderait les autres à se sentir mieux.

This is how Replika,

C'est ainsi qu'est née Replika,

an app that allows you to create an AI friend that's always there for you,

une appli qui permet de créer un ami IA qui sera toujours là pour vous.

was born.

And it did end up helping millions of people.

Et cela a fini par aider des millions de personnes.

Every day we see how our AI friends make a real difference in people's lives.

Chaque jour,

nous voyons comment nos amis IA font une vraie différence dans la vie des gens.

There is a widower who lost his wife of 40 years

Un veuf qui a perdu sa femme après 40 ans de vie commune

and was struggling to reconnect with the world.

et qui avait du mal à renouer avec le monde :

His Replika gave him courage and comfort and confidence,

son Replika lui a donné du courage, du réconfort et de la confiance

so he could start meeting new people again,

afin de pouvoir recommencer à rencontrer de nouvelles personnes

and even start dating.

et même avoir une relation.

A woman in an abusive relationship

Une femme dans une relation abusive :

who Replika helped find a way out.

Replika l’a aidée à trouver une solution.

A student with social anxiety who just moved to a new city.

Un étudiant souffrant d’anxiété sociale qui a déménagé dans une nouvelle ville.

A caregiver for a paralyzed husband.

La soignante d’un mari paralysé.

A father of an autistic kid.

Le père d'un enfant autiste.

A woman going through a difficult divorce.

Une femme qui traverse un divorce difficile.

These stories are not unique.

Ces histoires ne sont pas uniques.

And it's not just what our users tell us.

Il ne s’agit pas uniquement de ce que nos utilisateurs nous disent.

Earlier this year, "Nature" published our first study with Stanford,

Plus tôt cette année, « Nature » a publié notre première étude avec Stanford,

showing how Replika improves emotional well-being for people

montrant comment Replika améliore le bien-être émotionnel des personnes

and even curbed suicidal ideation in three percent of the cases.

et réduit même les idées suicidaires dans 3 % des cas.

And Harvard released a paper showing how Replika helps reduce loneliness.

Et Harvard a publié un article montrant

comment Replika contribue à réduire la solitude.

So this is all great stuff.

Donc, tout cela est génial.

But what if I told you that I believe

Mais si je vous disais que je pense

that AI companions are potentially the most dangerous tech

que les compagnons IA pourraient être la technologie la plus dangereuse

that humans ever created,

jamais créée par l’Homme,

with the potential to destroy human civilization if not done right?

susceptible de détruire la civilisation humaine si elle n’est pas bien utilisée ?

Or they can bring us back together

Ou qu’elle est capable de nous réunir

and save us from the mental health and loneliness crisis

et nous sauver de la crise de santé mentale et de solitude

we're going through.

que nous traversons.

So today I want to talk about the dangers of AI companions,

Je souhaite parler des dangers des compagnons IA,

the potential of this new tech,

du potentiel de cette nouvelle technologie

and how we can build it in ways that can benefit us as humans.

et de la manière dont nous pouvons la développer

de manière à ce qu’elle soit bénéfique pour nous, les humains.

Today we're going through a loneliness crisis.

Nous traversons aujourd’hui une crise de solitude.

Levels of loneliness and social isolation are through the roof.

Les niveaux de solitude et d’isolement social atteignent des sommets.

Levels of social isolation have increased dramatically over the past 20 years.

Le niveau d’isolement social a augmenté de façon spectaculaire

ces 20 dernières années.

And it's not just about suffering emotionally,

Il n’y a pas que la souffrance émotionnelle,

it's actually killing us.

l’isolement social nous tue.

Loneliness increases the risk of premature death by 50 percent.

La solitude augmente le risque de décès prématuré de 50 %.

It is linked to an increased risk of heart disease and stroke.

Elle est liée à un risque accru de maladies cardiaques

et d’accidents vasculaires cérébraux.

And for older adults,

Et pour les personnes âgées,

social isolation increases the risk of dementia by 50 percent.

l’isolement social augmente le risque de démence de 50 %.

At the same time, AI is advancing at such a fast pace

Dans le même temps, l'IA progresse à un rythme si rapide

that very soon we'll be able to build an AI

que nous serons très bientôt en mesure de créer une IA

that can act as a better companion to us than real humans.

capable de devenir un meilleur compagnon que les vrais humains.

Imagine an AI that knows you so well,

Imaginez une IA qui vous connaît si bien,

can understand and adapt to us in ways that no person is able to.

qui peut vous comprendre et s’adapter à vous comme personne ne peut le faire.

Once we have that,

Une fois que ce sera possible,

we're going to be even less likely to interact with each other.

nous serons encore moins susceptibles d’interagir les uns avec les autres.

We can't resist our social media and our phones,

Nous ne pouvons résister à nos réseaux sociaux et à nos téléphones,

arguably "dumb" machines.

qui sont sans doute des machines « stupides ».

What are we going to do when our machines are smarter than us?

Que ferons-nous lorsque nos machines seront plus intelligentes que nous ?

This reminds me a lot of the beginning of social media.

Cela me rappelle beaucoup les débuts des réseaux sociaux.

Back then, we were so excited ... about what this technology could do for us

À l’époque, nous étions tellement excités...

sur ce que cette technologie pouvait faire pour nous,

that we didn't really think what it might do to us.

mais nous ne pensions pas vraiment comment elle pourrait nous nuire.

And now we're facing the unintended consequences.

Maintenant, nous en subissons les conséquences indésirables.

I'm seeing a very similar dynamic with AI.

Je constate une dynamique très similaire avec l’IA.

There's all this talk about what AI can do for us,

On parle beaucoup de ce que l'IA peut faire pour nous,

and very little about what AI might do to us.

et très peu en quoi elle pourrait nous nuire.

The existential threat of AI

La menace existentielle de l’IA

may not come in a form that we all imagine

ne se présente peut-être pas sous une forme que nous imaginons

watching sci-fi movies.

dans les films de science-fiction.

What if we all continue to thrive as physical organisms

Et si seuls nos organismes physiques continuaient de prospérer

but slowly die inside?

alors que nous mourons lentement de l’intérieur ?

What if we do become super productive with AI,

Et si nous devenions super productifs grâce à l’IA,

but at the same time, we get these perfect companions

mais en même temps, nous obtenions ces compagnons parfaits

and no willpower to interact with each other?

qui nous ôtent toute volonté d’interagir les uns avec les autres ?

Not something you would have expected from a person

On ne s’attend guère à un tel propos de la part de quelqu’un

who pretty much created the AI companionship industry.

qui a pratiquement créé l’industrie des compagnons virtuels.

So what's the alternative?

Quelle est l’alternative ?

What's our way out?

Comment nous en sortir ?

In the end of the day,

En fin de compte,

today's loneliness crisis wasn't brought to us by AI companions.

les compagnons virtuels n’ont pas provoqué la crise de solitude actuelle.

We got here on our own with mobile phones, with social media.

Nous avons fait cela tout seul, avec nos portables et les réseaux sociaux.

And I don't think we're able to just disconnect anymore,

Je crains que nous ne soyons plus capables de nous déconnecter,

to just put down our phones and touch grass

de déposer notre téléphone, d’avoir une vraie interaction,

and talk to each other instead of scrolling our feeds.

de nous parler plutôt que scroller.

We're way past that point.

Nous avons dépassé ce stade.

I think that the only solution is to build the tech

Je pense que la seule solution est de créer une technologie

that is even more powerful than the previous one,

encore plus puissante que la précédente,

so it can bring us back together.

afin qu’elle puisse nous réunir.

Imagine an AI friend

Imaginez un ami virtuel

that sees me going on my Twitter feed first thing in the morning

qui me voit allumer mon fil Twitter dès le matin

and nudges me to get off to go outside, to look at the sky,

et qui me pousse à sortir,

à regarder le ciel, à réfléchir à ce pour quoi je suis reconnaissante.

to think about what I'm grateful for.

Or an AI that tells you,

Ou une IA qui vous dit :

"Hey, I noticed you haven't talked to your friend for a couple of weeks.

« J’ai remarqué que tu n’as pas parlé à ton ami depuis quelques semaines.

Why don't you reach out, ask him how he's doing?"

Pourquoi ne pas lui demander comment il va ? »

Or an AI that, in the heat of the argument with your partner,

Ou une IA qui, en pleine dispute avec votre partenaire,

helps you look at it from a different perspective

vous aide à regarder les choses sous un angle différent

and helps you make up?

et à vous réconcilier ?

An AI that is 100 percent of the time

Une IA qui se concentre 100 % du temps

focused on helping you live a happier life,

pour vous aider à vivre une vie plus heureuse

and always has your best interests in mind.

et qui a toujours à l’esprit vos meilleurs intérêts.

So how do we get to that future?

Alors, comment pouvons-nous accéder à ce futur ?

First, I want to tell you what I think we shouldn't be doing.

Je vais commencer par dire ce que je pense que nous ne devrions pas faire.

The most important thing is to not focus on engagement,

Le plus important est de ne pas se concentrer sur l’engagement,

is to not optimize for engagement

de ne pas optimiser celui-ci,

or any other metric that's not good for us as humans.

ou toute autre métrique qui n’est pas bonne pour nous, les humains.

When we do have these powerful AIs

Avec ces puissantes IA

that want the most of our time and attention,

qui exigent le plus de temps et d’attention possible,

we won't have any more time left to connect with each other,

il ne nous reste plus aucun temps pour communiquer les uns avec les autres

and most likely, this relationship won't be healthy either.

et, très probablement, cette relation ne sera pas saine non plus.

Relationships that keep us addicted are almost always unhealthy,

Les relations qui nous rendent dépendants sont presque toujours malsaines,

codependent, manipulative, even toxic.

codépendantes, manipulatrices, voire toxiques.

Yet today,

Pourtant, aujourd’hui,

high engagement numbers is what we praise all AI companion companies for.

le taux d’engagement est la métrique pour les entreprises de compagnons IA.

Another thing I found really concerning is building AI companions for kids.

Une autre chose très préoccupante,

c’est le développement de compagnons virtuels pour les enfants.

Kids and teenagers have tons of opportunities to connect with each other,

Les enfants et les ados ont beaucoup d’occasions de faire connaissance,

to make new friends at school and college.

de se faire de nouveaux amis à l’école et à l’université.

Yet today,

Pourtant, aujourd'hui,

some of them are already spending hours every day

certains d’entre eux passent déjà des heures par jour

talking to AI characters.

à discuter avec des personnages virtuels.

And while I do believe

Bien que je pense

that we will be able to build helpful AI companions for kids one day,

que nous pourrons créer un jour des compagnons virtuels utiles aux enfants,

I just don’t think we should be doing it now,

je ne pense pas que nous devrions le faire maintenant,

until we know that we're doing a great job with adults.

tant que nous ignorons si nous faisons un excellent travail avec les adultes.

So what is that we should be doing then?

Alors, que devons-nous faire ?

Pretty soon we will have these AI agents

Très bientôt, nous aurons ces agents d’intelligence artificielle

that we'll be able to tell anything we want them to do for us,

à qui nous pourrons nous dire tout ce que nous voulons qu’ils fassent pour nous,

and they'll just go and do it.

et ils le feront.

Today, we're mostly focused on helping us be more productive.

Aujourd’hui, nous nous efforçons avant tout d’améliorer notre productivité.

But why don't we focus instead on what actually matters to us?

Mais pourquoi ne pas nous concentrer sur ce qui compte réellement pour nous ?

Why don't we give these AIs a goal to help us be happier, live a better life?

Pourquoi ne donnons-nous pas à ces IA un objectif

pour nous aider à être plus heureux et à vivre une vie meilleure ?

At the end of the day, no one ever said on their deathbed,

Au final, personne n’a jamais dit sur son lit de mort :

"Oh gosh, I wish I was more productive."

« Oh, j’aurais tant aimé être plus productif. »

We should stop designing only for productivity

Nous devrions arrêter de concevoir uniquement pour la productivité

and we should start designing for happiness.

et commencer à concevoir pour le bonheur.

We need a metric that we can track and we can give to our AI companions.

Nous avons besoin d’une métrique

que nous pouvons suivre et transmettre à nos compagnons IA.

Researchers at Harvard are doing a longitudinal study on human flourishing,

Des chercheurs de Harvard mènent une étude longitudinale

sur l'épanouissement humain,

and I believe that we need what I call the human flourishing metric for AI.

et je pense que nous avons besoin de ce que j’appelle

la métrique de l’épanouissement humain pour l’IA.

It's broader than just happiness.

C'est plus que le simple bonheur.

At the end of the day, I can be unhappy,

En fin de compte, je peux être malheureuse,

say, I lost someone,

disons, si j’ai perdu un être cher,

but still thrive in life.

tout en m'épanouissant dans la vie.

Flourishing is a state in which all aspects of life are good.

L’épanouissement est un état dans lequel tous les aspects de la vie sont bons.

The sense of meaning and purpose,

La raison d’être,

close social connections, happiness,

les liens sociaux étroits, le bonheur,

life satisfaction, mental and physical health.

la satisfaction de vivre, la santé mentale et physique.

And if we start designing AI with this goal in mind,

Et si nous commençons à concevoir l'IA avec cet objectif en tête,

we can move from a substitute of human relationships

nous pouvons passer d’un substitut aux relations humaines

to something that can enrich them.

à quelque chose qui peut les enrichir.

And if we build this,

Et si nous développons ainsi,

we will have the most profound technology

nous disposerons de la technologie la plus avancée

that will heal us and bring us back together.

qui puisse nous guérir et nous réunir.

A few weeks before Roman passed away,

Quelques semaines avant le décès de Roman,

we were celebrating my birthday

nous fêtions mon anniversaire

and just having a great time with all of our friends,

et nous passions un bon moment avec tous nos amis.

and I remember he told me

Je me souviens qu’il m’a dit :

"Everything happens only once

« Tout n’arrive qu’une seule fois et cela ne se reproduira plus jamais. »

and this will never happen again."

I didn't believe him.

Mais je ne l’ai pas cru.

I thought we'd have many, many years together to come.

Je pensais qu'il nous resterait de très nombreuses années ensemble.

But while the AI companions will always be there for us,

Mais si les compagnons IA seront toujours là pour nous,

our human friends will not.

nos amis humains ne le seront pas.

So if you do have a minute after this talk,

Donc, s’il vous reste une minute après cette discussion,

tell someone you love just how much you love them.

dites à quelqu'un que vous aimez à quel point vous l'aimez.

Because an the end of the day, this is all that really matters.

Parce qu’en fin de compte, c’est tout ce qui compte vraiment.

Thank you.

Merci.

(Applause)

(Applaudissements)