The Exciting, Perilous Journey Toward AGI | Ilya Sutskever | TED

Traducteur: eric vautier Relecteur: Claire Ghyselen

You've all experienced the progress of artificial intelligence.

Vous avez tous fait l’expérience des progrès de l’intelligence artificielle.

Many of you may have spoken with a computer,

Beaucoup d’entre vous ont peut-être parlé à un ordinateur,

and a computer understood you

qui vous a compris

and spoke back to you.

et vous a répondu.

With the rate of progress being that it is,

Au rythme actuel des progrès,

it's not difficult to imagine that at some point in the future,

il n’est pas difficile d’imaginer que dans le futur,

our intelligent computers will become as smart or smarter than people.

nos ordinateurs deviendront aussi intelligents, voire plus, que les humains.

And it's also not difficult to imagine that when that happens,

Et il n’est pas difficile d’imaginer que lorsque cela se produira,

the impact of such artificial intelligence

l’impact d’une telle intelligence artificielle

is going to be truly, truly vast.

sera vraiment très vaste.

And you may wonder:

Et vous vous demandez peut-être :

Is it going to be OK when technology is so impactful?

est-ce que tout ira bien si la technologie a un tel impact ?

And here my goal is to point out the existence of a force

Ici, mon objectif est de souligner l’existence d’une force

that many of you may have not noticed,

que beaucoup d’entre vous n’ont peut-être pas remarquée,

that gives me hope that indeed,

qui me donne l’espoir que

we will be happy with the result.

nous serons satisfaits du résultat.

So artificial intelligence.

L’intelligence artificielle, donc.

What is it, and how does it work?

Qu’est-ce que c’est et comment fonctionne-t-elle ?

Well, it turns out that it's very easy to explain

Eh bien, il s’avère qu’il est très facile d’expliquer

how artificial intelligence works.

le fonctionnement de l’intelligence artificielle.

Just one sentence.

Juste une phrase.

Artificial intelligence is nothing but digital brains

L’intelligence artificielle n’est rien d’autre que des cerveaux numériques

inside large computers.

dans de grands ordinateurs.

That's what artificial intelligence is.

Voilà ce que c’est.

Every single interesting AI that you've seen

Toutes les IA intéressantes que vous avez vues

is based on this idea.

sont basées sur cette idée.

Over the decades,

Au fil des décennies,

scientists and engineers have been figuring out

les scientifiques et les ingénieurs ont découvert

how such digital brains should work

comment ces cerveaux numériques pouvaient fonctionner

and how to build them, how to engineer them.

et comment les construire, comment les concevoir.

Now, I find it interesting

Maintenant, je trouve intéressant

that the seat of intelligence in human beings is our biological brain.

que le siège de l’intelligence chez l’être humain soit notre cerveau biologique.

It is fitting that the seat of intelligence

Il est normal que le siège de l’intelligence artificielle

in artificial intelligence

is an artificial brain.

soit un cerveau artificiel.

Here, I'd like to take a digression and tell you about how I got into AI.

Je vais faire une digression et expliquer comment je me suis lancé dans l’IA.

There were three forces that pulled me into it.

Trois forces m’y ont entraîné.

The first one was that when I was a little child,

La première est que lorsque j’étais petit,

at around the age of five or six,

vers l'âge de cinq ou six ans,

I was very struck by my own conscious experience,

j’ai été très frappé par ma propre expérience consciente,

by the fact that I am me and I am experiencing things.

par le fait que je suis moi et que je vis des choses.

That when I look at things, I see them.

Que quand je regarde les choses, je les vois.

Like, this feeling over time went away, though,

Cette sensation a disparu au fil du temps,

by simply mentioning it to you right now it comes back.

mais en vous la mentionnant

But this this feeling of ...

Mais cette sensation de...

That I am me, that you are you,

que je sois moi, que vous soyez vous,

I found it very strange and very disturbing almost.

je l’ai trouvée très étrange et presque troublante.

And so when I learned about artificial intelligence,

Alors, quand j’ai découvert l’intelligence artificielle,

I thought, wow, if we could build a computer

je me suis dit : « Waouh, si nous pouvions construire un ordinateur

that is intelligent,

qui soit intelligent,

maybe we will learn something about ourselves,

peut-être en apprendrions-nous sur nous-mêmes,

about our own consciousness.

sur notre propre conscience.

That was my first motivation that pulled me towards AI.

C’est la première motivation qui m’a poussé vers l’IA.

The second motivation was more pedestrian in a way.

La deuxième était d’une certaine manière plus piétonne.

I was simply curious about how intelligence works.

J’étais curieux de savoir comment fonctionnait l’intelligence.

And when I was a teenager, an early teenager in the late '90s,

Quand j’étais adolescent, à la fin des années 1990,

the sense that I got is that science simply did not know

j’ai eu l'impression que la science

how intelligence worked.

comment fonctionnait l'intelligence.

There was also a third reason,

Il y avait une 3e raison :

which is that it was clear to me back then

il était clair pour moi à l’époque

that artificial intelligence,

que l'intelligence artificielle,

if it worked, it would be incredibly impactful.

si elle fonctionnait, aurait un impact incroyable.

Now, it wasn't at all obvious

Il n'était pas du tout évident

that it will be possible to make progress in artificial intelligence,

qu’il serait possible de faire des progrès dans le domaine de l’IA,

but if it were possible to make progress in artificial intelligence,

mais si ça l’était,

that would be incredibly impactful.

cela aurait un impact incroyable.

So these were the three reasons that pulled me towards AI.

Ce sont donc les trois raisons qui m'ont poussé vers l'IA.

That's why I thought that's a great area to spend all my efforts on.

Je pensais que c’était un bon domaine auquel consacrer tous mes efforts.

So now let's come back to our artificial intelligence,

Revenons-en maintenant à notre intelligence artificielle,

the digital brains.

le cerveau numérique.

Today, these digital brains

Aujourd'hui, ces cerveaux numériques

are far less smart than our biological brains.

sont bien moins intelligents que nos cerveaux biologiques.

When you speak to an AI chat bot,

Lorsque vous parlez à un chatbot basé sur l’IA,

you very quickly see that it's not all there,

vous constatez très vite qu’il n’est pas complet.

that it's, you know,

En clair,

it understands mostly, sort of.

il comprend à peu près, en quelque sorte.

But you can clearly see that there are so many things it cannot do

Mais vous voyez qu’il y a plein de choses qu’il ne sait pas

and that there are some strange gaps.

et qu’il a d’étranges lacunes.

But this situation, I claim, is temporary.

Mais je prétends que cette situation est temporaire.

As researchers and engineers continue to work on AI,

Les chercheurs et les ingénieurs continuent de travailler sur l’IA.

the day will come when the digital brains that live inside our computers

Et donc, un jour viendra où les cerveaux numériques qui vivent dans nos ordinateurs

will become as good and even better than our own biological brains.

deviendront aussi performants, voire meilleurs, que nos cerveaux biologiques.

Computers will become smarter than us.

Ils deviendront plus intelligents que nous.

We call such an AI an “AGI,” artificial general intelligence.

Nous appelons une telle IA une « IAG », une intelligence artificielle générale.

When we can say that the level at which we can teach the AI to do anything

C’est le niveau auquel on peut apprendre à l’IA à faire

that, for example, I can do, or someone else.

tout ce que je sais faire, tout ce qu’un humain sait faire.

So although AGI does not exist today,

Bien que l’IAG n’existe pas aujourd’hui,

we can still gain a little bit of an insight

nous pouvons quand même avoir un petit aperçu

into the impact of AGI once it's built.

de son impact une fois qu’elle sera construite.

It is completely obvious

Il est tout à fait évident

that such an AGI will have a dramatic impact

qu’une telle IAG aura un impact énorme

on every area of life, of human activity and society.

sur tous les domaines de la vie, de l'activité humaine et de la société.

And I want to go over a quick case study.

Je voudrais passer en revue une brève étude de cas.

This is a narrow example of a very, very broad technology.

Il s’agit d’un exemple restreint d’une technologie très, très large,

The example I want to present is health care.

celui des soins de santé.

Many of you may have had the experience of trying to go to a doctor.

Beaucoup d’entre vous ont peut-être déjà essayé de consulter un médecin.

You need to wait for many months sometimes,

Vous devez parfois attendre de nombreux mois,

and then when you do get to see a doctor, you get a small,

puis lorsque vous le voyez,

ce n’est que pendant un temps très limité.

very limited amount of time with the doctor

and furthermore, the doctor, being only human,

De plus, le médecin n’étant qu’un être humain,

can have only limited knowledge of all this,

il ne peut avoir qu’une connaissance limitée

all the medical knowledge that exists.

de toutes les connaissances médicales existantes.

And then by the end of it, you get a very large bill.

Et à la fin, vous obtenez une facture très importante.

(Laughter)

(Rires)

Well, if you have an intelligent computer, an AGI, that is built to be a doctor,

Si vous aviez un ordinateur intelligent, une IAG conçue pour être médecin,

it will have complete and exhaustive knowledge of all medical literature.

elle aurait une connaissance exhaustive de la littérature médicale.

It will have billions of hours of clinical experience,

Elle aurait des milliards d’heures d’expérience clinique,

and it will be always available and extremely cheap.

et serait toujours disponible et extrêmement bon marché.

When this happens,

Lorsque cela se produira,

we will look back at today's health care

nous considérerons les soins de santé actuels

similarly to how we look at 16th century dentistry.

de la même manière que les dentistes du XVIe siècle.

(Laughter)

(Rires)

You know, when they tied people with belts and then have this drill,

Ils attachaient les gens pour pratiquer leurs soins,

that's how today's health care will look like.

C’est ainsi qu’on verra les soins de santé actuels.

And again, to emphasize, this is just one example.

Et il ne s’agit que d’un exemple parmi d’autres.

This is just one example.

Ce n’est qu’un exemple.

AGI will have dramatic and incredible impact

L’IAG aura un impact spectaculaire et incroyable

on every single area of human activity.

sur tous les domaines de l’activité humaine.

But when you see impact this large, you may wonder, "Gosh,

Mais face à un impact aussi important, vous vous demandez peut-être : « Mince,

isn't this technology too impactful?"

cette technologie n’a-t-elle pas trop d’impact ? »

And indeed, for every positive application of AGI,

Et en effet, pour chaque application positive de l’IAG,

there will be a negative application as well.

il y aura également une application négative.

This technology is also going to be different

Cette technologie sera différente de celles auxquelles nous sommes habitués,

from technologies that we are used to,

because it will have the ability to improve itself.

car elle aura la capacité de s’améliorer d’elle-même.

It is possible to build an AGI

Il est possible de créer une IAG

that will work on the next generation of AGI.

qui fonctionnera sur la prochaine génération d’IAG.

The closest analogue we have to this kind of rapid technological improvement

Ce type d’amélioration technologique rapide est assez proche

is when the Industrial Revolution has taken place, where humans,

de celui de la révolution industrielle, qui est arrivée après une période

the material condition of human society, was very, very constant.

de stagnation des conditions matérielles de vie.

And then it was a rapid increase, rapid growth.

Puis il y eut une augmentation et une croissance rapides.

With AGI,

Avec l’IAG,

something like this could happen again, but on a shorter timescale.

une telle situation peut se reproduire, mais dans des délais plus courts.

And then furthermore,

De plus, certains s’inquiètent

there are concerns around

if an AGI ever becomes very, very powerful,

de savoir si une IAG devient un jour très, très puissante,

which is possible,

ce qui est possible,

maybe it will want to go rogue being that it is an agent.

peut-être qu’elle aura envie de devenir malveillante.

So this is a concern that exists with this unprecedented,

Il s’agit donc d’une préoccupation liée

à cette technologie sans précédent mais qui n’existe pas encore.

not yet existing technology.

And indeed,

En effet,

you look at all the positive potential of AGI

si on regarde le potentiel positif de l’IAG

and all the concerning possibilities of AGI as well,

ainsi que toutes ses possibilités inquiétantes,

and you may say, "Gosh, where is this all headed?"

on peut se demander : « Où est-ce que cela va nous mener ? »

One of my motivations in creating OpenAI was,

L'une de mes motivations en créant OpenAI était,

in addition to developing this technology,

outre le développement de cette technologie,

was also to address the questions

était également de répondre aux questions difficiles posées par l’IAG,

that are posed by AGI, the difficult questions,

the concerns that we raised.

aux préoccupations que nous avons soulevées.

In addition to working with governments

En plus de travailler avec les gouvernements

and helping them understand what is coming and prepare for it,

pour les aider à comprendre ce qui les attend et à s’y préparer,

we are also doing a lot of research

nous menons de nombreuses recherches

on addressing the technological side of things,

sur l’aspect technologique des choses,

so that the AI will never want to go rogue.

afin que l’IA ne devienne jamais malveillante.

And this is something which I’m working on as well.

C’est une chose sur laquelle je travaille également.

But I think, the thing to note,

Mais je pense qu’il faut noter

because AI and AGI is really the only area of the economy

que l’IA et l’AGI sont vraiment le seul secteur de l’économie

where there is a lot of excitement, a lot of investment,

qui suscite beaucoup d’enthousiasme et d’investissements,

everyone is working on it,

sur lequel on travaille tous -

there's a huge number of labs in the world trying to build the same thing.

beaucoup de laboratoires dans le monde essaient de construire la même chose.

Even if OpenAI takes these desirable steps that I mentioned,

Même si OpenAI prend les mesures souhaitables que j’ai mentionnées,

what about the rest of the companies and the rest of the world?

qu'en est-il du reste des entreprises

And this is where I want to make my observation

C’est ici que je souhaite apporter mon opinion

about the force that exists.

sur la force qui existe.

The observation is this: consider the world one year ago,

Le constat est le suivant : repensez au monde d’il y a un an,

as recently as one year ago.

il y a tout juste un an.

People weren't really talking about AI, not in the same way at all.

Les gens ne parlaient pas vraiment d'IA, pas du tout de la même manière.

What happened?

Que s'est-il passé ?

We all experienced what it's like to talk to a computer and to be understood.

On a tous testé ce que c’est que de parler à un ordinateur et d’être compris.

The idea that computers will become really intelligent

L'idée que les ordinateurs deviendront vraiment intelligents

and eventually more intelligent than us is becoming widespread.

et finiront par devenir plus intelligents que nous se répand.

It used to be a niche idea that only a few enthusiasts

C’était autrefois une idée de niche à laquelle seuls quelques passionnés,

and hobbyists and people who were very into AI were thinking about.

amateurs ou personnes très intéressées par l’IA pensaient.

But now everyone is thinking about it.

Mais maintenant, tout le monde en parle.

And as the AI continues to make progress,

Au fur et à mesure que l’IA continuera de progresser,

as technology continues to advance,

que la technologie continuera d’évoluer,

as more and more people see what AI can do

que de plus en plus de personnes découvriront ce qu’elle peut faire

and where it is headed towards,

et vers quoi elle se dirige,

then it will become clear just how dramatic,

il deviendra clair à quel point l’IAG sera importante,

incredible and ...

incroyable et...

almost fantastical AGI is going to be

presque fantastique

and how much trepidation is appropriate.

et à quel point il convient de s’en inquiéter.

And what I claim will happen is that people will start to act

Et je prétends que les gens commenceront à agir,

in unprecedentedly collaborative way out of their own self-interest.

d’une manière collaborative jamais vue, dans leur propre intérêt.

It's already happening right now.

Cela se produit déjà.

You see the leading AGI companies starting to collaborate

Vous pouvez voir les principales entreprises d’IAG commencer à collaborer

for a specific example, through the Frontier Model Forum.

par exemple par le biais du Frontier Model Forum.

And we will expect that companies that are competitors

Nous nous attendons à ce que des entreprises concurrentes

will share technical information to make their AIs safe.

collaborent pour garantir la sécurité de leurs IA.

We may even see governments do this.

Même des gouvernements le font.

For another example,

Autre exemple :

at OpenAI, we really believed in how dramatic AGI is going to be.

chez OpenAI, nous croyions vraiment que l’IAG serait extraordinaire.

So one of the ideas that we were operating by,

L’une de nos idées directrices,

and it's been written on our website for five years now,

écrite sur notre site Web depuis cinq ans maintenant,

that when technology gets such that we are very, very close to AGI,

est que lorsque la technologie sera très, très proche de l’IAG,

to computers smarter than humans,

des ordinateurs plus intelligents que nous,

and if some other company is far ahead of us,

si une autre entreprise a une longueur d’avance sur nous,

then rather than compete with them,

au lieu de la concurrencer,

we will help them out, join them, in a sense.

nous l’aiderons, nous la rejoindrons, d’une certaine manière.

And why do that?

Pourquoi faire ça ?

Because we feel, we appreciate

Parce que nous pensons

how incredibly dramatic AGI is going to be.

que l’IAG va être incroyable.

And my claim is that with each generation of capability advancements,

À chaque nouveau progrès en matière de capacités,

as AI gets better

à mesure que l'IA s'améliore

and as all of you experience what AI can do,

et que vous découvrez tous ce que l’IA peut faire,

as people who run AI efforts and AGI efforts

que les personnes qui améliorent les IA et les IAG

and people who work on them will experience it as well,

et les personnes qui travaillent dessus l’expérimenteront,

this will change the way we see AI and AGI,

la façon dont nous percevons l’IA et l’IAG changera,

and that will change collective behavior.

et cela modifiera les comportements.

And this is an important reason

C’est une raison importante pour laquelle j’espère

why I'm hopeful

that despite the great challenges that's posed by this technology,

que malgré les grands défis que pose cette technologie,

we will overcome them.

nous les surmonterons.

Thank you.

Merci.

(Applause)

(Applaudissements)