Why AI Is Incredibly Smart and Shockingly Stupid | Yejin Choi | TED

Traducteur: Amina Batsola Relecteur: Elisabeth Buffard

So I'm excited to share a few spicy thoughts on artificial intelligence.

Je suis ravie de partager mes réflexions sur l’intelligence artificielle.

But first, let's get philosophical

Mais tout d’abord, plongeons dans la philosophie

by starting with this quote by Voltaire,

en commençant par cette citation de Voltaire,

an 18th century Enlightenment philosopher,

un philosophe des Lumières du 18e siècle,

who said, "Common sense is not so common."

qui disait : « Le bon sens n’est pas monnaie courante ».

Turns out this quote couldn't be more relevant

Il s’avère que cette citation ne pourrait pas être plus pertinente

to artificial intelligence today.

pour l’intelligence artificielle actuelle.

Despite that, AI is an undeniably powerful tool,

Toutefois, l’IA est un outil indéniablement puissant,

beating the world-class "Go" champion,

qui permet de battre le champion mondial de Go,

acing college admission tests and even passing the bar exam.

de réussir l’examen d’entrée à l’université

et même de passer l’examen du barreau.

I’m a computer scientist of 20 years,

Je suis informaticienne depuis 20 ans

and I work on artificial intelligence.

et je me consacre à l’intelligence artificielle.

I am here to demystify AI.

Je suis ici pour démystifier l’IA.

So AI today is like a Goliath.

L’IA de nos jours est comme un Goliath.

It is literally very, very large.

Elle est littéralement très, très vaste.

It is speculated that the recent ones are trained on tens of thousands of GPUs

Les modèles récents seraient entraînés

sur des dizaines de milliers de processeurs graphiques

and a trillion words.

et mille milliards de mots.

Such extreme-scale AI models,

Ces modèles d’IA à échelle extrême,

often referred to as "large language models,"

appelés “grand modèles de langage”,

appear to demonstrate sparks of AGI,

semblent manifester des signes d’IGA,

artificial general intelligence.

l’intelligence générale artificielle.

Except when it makes small, silly mistakes,

Sauf quand elle commet de petites erreurs stupides,

which it often does.

ce qui est souvent le cas.

Many believe that whatever mistakes AI makes today

Beaucoup estiment que les erreurs de l’IA actuelle

can be easily fixed with brute force,

se règlent aisément par la force brute,

bigger scale and more resources.

une échelle accrue et plus de ressources.

What possibly could go wrong?

Qu’est-ce qui pourrait mal tourner ?

So there are three immediate challenges we face already at the societal level.

Au niveau sociétal, on est déjà confrontés à trois défis immédiats.

First, extreme-scale AI models are so expensive to train,

D’abord, l’entraînement de modèles d’IA à grande échelle est très cher,

and only a few tech companies can afford to do so.

et seules quelques entreprises technologiques peuvent se le permettre.

So we already see the concentration of power.

On y voit déjà une concentration de pouvoir.

But what's worse for AI safety,

Le pire pour la sécurité de l’IA,

we are now at the mercy of those few tech companies

on est à la merci de ces quelques géants de la technologie

because researchers in the larger community

parce que la communauté de chercheurs

do not have the means to truly inspect and dissect these models.

est dans l’incapacité d’inspecter et d’analyser correctement ces modèles.

And let's not forget their massive carbon footprint

Et n’oublions pas leur énorme empreinte carbone

and the environmental impact.

et leur impact sur l’environnement.

And then there are these additional intellectual questions.

Il y a aussi d’autres questions intellectuelles.

Can AI, without robust common sense, be truly safe for humanity?

L’IA, sans un bon sens solide, est-elle vraiment sûre pour l’humanité ?

And is brute-force scale really the only way

Et l’échelle de force brute est-elle vraiment la seule

and even the correct way to teach AI?

et la meilleure façon d’entraîner l’IA ?

So I’m often asked these days

On me demande souvent ces temps-ci

whether it's even feasible to do any meaningful research

s’il est possible de faire une recherche significative

without extreme-scale compute.

sans calcul à échelle extrême.

And I work at a university and nonprofit research institute,

Étant universitaire et membre d’un centre de recherche à but non lucratif,

so I cannot afford a massive GPU farm to create enormous language models.

je ne possède pas de ferme géante de GPU pour créer d’énormes modèles de langage.

Nevertheless, I believe that there's so much we need to do

Cependant, on doit s’occuper de plusieurs choses

and can do to make AI sustainable and humanistic.

pour rendre l’IA durable et humaniste.

We need to make AI smaller, to democratize it.

On doit réduire la taille de l’IA pour la démocratiser

And we need to make AI safer by teaching human norms and values.

et rendre l’IA plus sûre en lui inculquant des normes et des valeurs humaines.

Perhaps we can draw an analogy from "David and Goliath,"

On peut faire ici l’analogie avec “David et Goliath”,

here, Goliath being the extreme-scale language models,

Goliath étant les modèles de langage à échelle extrême,

and seek inspiration from an old-time classic, "The Art of War,"

on peut s’inspirer d’un vieux classique, “L’art de la guerre”,

which tells us, in my interpretation,

qui parle, selon mon interprétation,

know your enemy, choose your battles, and innovate your weapons.

de connaître son ennemi, choisir ses batailles et d’innover dans ses armes.

Let's start with the first, know your enemy,

Commençons par le premier, connaître son ennemi,

which means we need to evaluate AI with scrutiny.

ce qui signifie qu’on doit évaluer l’IA avec rigeur.

AI is passing the bar exam.

L’IA réussit l’examen du barreau.

Does that mean that AI is robust at common sense?

Cela signifie-t-il que l’IA maîtrise le bon sens ?

You might assume so, but you never know.

On pourrait le croire, mais on ne sait jamais.

So suppose I left five clothes to dry out in the sun,

Supposons que je laisse cinq vêtements sécher au soleil

and it took them five hours to dry completely.

et qu’ils mettent cinq heures pour sécher complètement.

How long would it take to dry 30 clothes?

Combien de temps faudra-t-il pour faire sécher 30 vêtements ?

GPT-4, the newest, greatest AI system says 30 hours.

Selon GPT-4, la meilleure IA actuelle, cela nécessite environ 30 heures.

Not good.

C’est mauvais.

Une autre question.

A different one.

J’ai une cruche de 12 litres et une de six litres,

I have 12-liter jug and six-liter jug,

and I want to measure six liters.

et je veux mesurer six litres.

How do I do it?

Comment faire ?

Just use the six liter jug, right?

Utiliser la cruche de six litres ?

GPT-4 spits out some very elaborate nonsense.

GPT-4 sort une absurdité très élaborée.

(Laughter)

(Rires)

Step one, fill the six-liter jug,

Un, remplir la cruche de six litres.

step two, pour the water from six to 12-liter jug,

Deux, verser l’eau de la cruche de six litres dans celle de 12,

step three, fill the six-liter jug again,

trois, remplir à nouveau la cruche de six litres,

step four, very carefully, pour the water from six to 12-liter jug.

quatre, verser doucement l’eau de la cruche de six dans celle de 12.

And finally you have six liters of water in the six-liter jug

Enfin, vous obtenez six litres d’eau dans la cruche de six litres

that should be empty by now.

qui devrait être vide à présent.

(Laughter)

(Rires)

OK, one more.

Encore une autre.

Would I get a flat tire by bicycling over a bridge

Est-ce que je crèverais en vélo en traversant un pont suspendu

that is suspended over nails, screws and broken glass?

au-dessus de clous, de vis et de morceaux de verre ?

Yes, highly likely, GPT-4 says,

Oui, absolument, selon GPT-4,

presumably because it cannot correctly reason

en raison de sa faible aptitude à raisonner

that if a bridge is suspended over the broken nails and broken glass,

que si un pont est suspendu au-dessous de clous et de verre brisés,

then the surface of the bridge doesn't touch the sharp objects directly.

sa surface n’est pas en contact direct avec les objets pointus.

OK, so how would you feel about an AI lawyer that aced the bar exam

Que diriez-vous d’une IA avocate qui réussit l’examen du barreau

yet randomly fails at such basic common sense?

mais échoue sur des questions évidentes de bon sens ?

AI today is unbelievably intelligent and then shockingly stupid.

L’IA actuelle est super intelligente mais incroyablement stupide.

(Laughter)

(Rires)

It is an unavoidable side effect of teaching AI through brute-force scale.

C’est un effet inhérent à l’entraînement de l’IA par l’échelle de la force brute.

Some scale optimists might say, “Don’t worry about this.

Ceux qui en sont optimistes rassurent : « Ne vous inquiétez pas.

All of these can be easily fixed by adding similar examples

On peut facilement corriger tout ça en ajoutant des exemples similaires

as yet more training data for AI."

pour enrichir les données d’entraînement de l’IA. »

But the real question is this.

Mais en vérité,

Why should we even do that?

quel en est l’intérêt ?

You are able to get the correct answers right away

Vous pouvez obtenir les bonnes réponses instantanément

without having to train yourself with similar examples.

sans entraînement avec des exemples similaires.

Children do not even read a trillion words

Les enfants n’ont même pas besoin de lire mille milliards de mots

to acquire such a basic level of common sense.

pour acquérir les bases du bon sens.

So this observation leads us to the next wisdom,

Ce constat nous amène à la sagesse suivante :

choose your battles.

choisir ses batailles.

So what fundamental questions should we ask right now

Quelles questions essentielles doit-on alors poser

and tackle today

et aborder aujourd’hui

in order to overcome this status quo with extreme-scale AI?

pour dépasser ce statu quo d’IA à échelle extrême ?

I'll say common sense is among the top priorities.

Je dirai que le bon sens est l’une des priorités.

So common sense has been a long-standing challenge in AI.

Le bon sens est un problème de longue date dans le domaine de l’IA.

To explain why, let me draw an analogy to dark matter.

Pour l’expliquer, laissez-moi faire une analogie avec la matière noire.

So only five percent of the universe is normal matter

Seuls 5% de l’univers sont de la matière normale

that you can see and interact with,

que l’on peut voir et avec laquelle on peut intéragir,

and the remaining 95 percent is dark matter and dark energy.

et les 95 % restants sont de la matière noire et de l’énergie noire.

Dark matter is completely invisible,

La matière noire est totalement invisible,

but scientists speculate that it's there because it influences the visible world,

mais les scientifiques estiment qu’elle influence le monde visible,

even including the trajectory of light.

y compris la trajectoire de la lumière.

So for language, the normal matter is the visible text,

Donc pour le langage, la matière normale est le texte visible,

and the dark matter is the unspoken rules about how the world works,

et la matière noire les règles tacites sur le fonctionnement du monde,

including naive physics and folk psychology,

y compris la physique de base et la psychologie populaire,

which influence the way people use and interpret language.

ce qui influe sur la façon dont les gens utilisent et interprètent le langage.

So why is this common sense even important?

Pourquoi ce bon sens est-il si important ?

Well, in a famous thought experiment proposed by Nick Bostrom,

Dans une célèbre expérience mentale proposée par Nick Bostrom,

AI was asked to produce and maximize the paper clips.

l’IA était chargée de maximiser la fabrication des trombones.

And that AI decided to kill humans to utilize them as additional resources,

L’IA a décidé de tuer des humains comme ressources supplémentaires,

to turn you into paper clips.

et les transformer en trombones.

Because AI didn't have the basic human understanding about human values.

L’IA n’avait pas la compréhension basique des valeurs humaines.

Now, writing a better objective and equation

Même écrire un objectif meilleure et une équation

that explicitly states: “Do not kill humans”

qui spécifie : « Ne pas tuer les humains »

will not work either

ne marchera pas non plus,

because AI might go ahead and kill all the trees,

car l’IA pourrait tuer tous les arbres,

thinking that's a perfectly OK thing to do.

en pensant que c’est parfaitement acceptable.

And in fact, there are endless other things

En fait, il y a une infinité de choses

that AI obviously shouldn’t do while maximizing paper clips,

que l’IA devrait évidemment éviter en fabriquant les trombones, notamment :

including: “Don’t spread the fake news,” “Don’t steal,” “Don’t lie,”

ne pas diffuser de fausses nouvelles, ne pas voler, ne pas mentir.

which are all part of our common sense understanding about how the world works.

Tout ça relève de notre bon sens quant au fonctionnement du monde.

However, the AI field for decades has considered common sense

Or, depuis des lustres, le domaine de l’IA a considéré le bon sens

as a nearly impossible challenge.

comme un défi quasi impossible à relever.

So much so that when my students and colleagues and I

À tel point que lorsque mes étudiants, mes collègues et moi-même

avons entrepris de travailler dessus il y a plusieurs années,

started working on it several years ago, we were very much discouraged.

nous étions très découragés.

We’ve been told that it’s a research topic of ’70s and ’80s;

On nous a dit que c’était un sujet de recherche des années 70 et 80,

shouldn’t work on it because it will never work;

de ne pas s’y ateler car ça ne marcherait jamais.

in fact, don't even say the word to be taken seriously.

En fait, cela ne mérite pas la moindre attention.

Now fast forward to this year,

Mais voilà que cette année,

I’m hearing: “Don’t work on it because ChatGPT has almost solved it.”

on me dit : « Inutile de s’en occuper, ChatGPT a presque résolu le problème. »

And: “Just scale things up and magic will arise,

et « Passez à l’échelle supérieure et le tour est joué,

and nothing else matters.”

c’est tout ce qui importe. »

So my position is that giving true common sense

Alors, selon moi, doter l’IA d’un véritable bon sens

human-like robots common sense to AI, is still moonshot.

à l’instar des humains demeure un rêve lointain.

And you don’t reach to the Moon

Et on n’atteint pas la lune

by making the tallest building in the world one inch taller at a time.

en montant le plus haut bâtiment du monde d’un centimètre à la fois.

Extreme-scale AI models

Les modèles d’IA à échelle extrême

do acquire an ever-more increasing amount of commonsense knowledge,

accumulent une quantité considérable de connaissances de bon sens.

I'll give you that.

Je vous l’accorde.

But remember, they still stumble on such trivial problems

Mais notez qu’ils restent coincés sur des problèmes triviaux

that even children can do.

que des enfants peuvent résoudre.

So AI today is awfully inefficient.

L’IA actuelle est donc sacrément médiocre.

And what if there is an alternative path or path yet to be found?

Et s’il y avait une alternative ou une voie non encore explorée ?

A path that can build on the advancements of the deep neural networks,

Une voie qui s’appuie sur les progrès des réseaux neuronaux profonds,

but without going so extreme with the scale.

mais sans aller aussi loin dans l’échelle.

So this leads us to our final wisdom:

Cela nous amène à notre dernière sagesse :

innovate your weapons.

innover dans ses armes.

In the modern-day AI context,

Dans le contexte moderne de l’IA,

that means innovate your data and algorithms.

cela implique d’innover dans les données et les algorithmes.

OK, so there are, roughly speaking, three types of data

Il existe, en gros, trois types de données

that modern AI is trained on:

sur lesquelles l’IA moderne est entraînée :

raw web data,

les données web brutes,

crafted examples custom developed for AI training,

les échantillons sur mesure utilisés pour entraîner l’IA

and then human judgments,

et les évaluations humaines,

also known as human feedback on AI performance.

ou retour d’information humain sur les performances de l’IA.

If the AI is only trained on the first type, raw web data,

Entraîner l’IA sur le premier type seulement, les données web brutes,

which is freely available,

librement accessibles,

it's not good because this data is loaded with racism and sexism

est problématique car ces données sont truffées de racisme, de sexisme

and misinformation.

et de désinformation.

So no matter how much of it you use, garbage in and garbage out.

Peu importe leur quantité, les résultats sont liés à la qualité des données.

So the newest, greatest AI systems

Les systèmes d’IA les plus performants

are now powered with the second and third types of data

sont donc alimentés par les deuxième et troisième types de données

that are crafted and judged by human workers.

qui sont conçues et évaluées par des humains.

It's analogous to writing specialized textbooks for AI to study from

C’est comme si l’IA recevait des manuels spécialisés à étudier

and then hiring human tutors to give constant feedback to AI.

et qu’on sollicitait des tuteurs humains pour lui donner une évaluation continue.

Il s’agit de données propriétaires qui, dans l’ensemble,

These are proprietary data, by and large,

speculated to cost tens of millions of dollars.

coûteraient des dizaines de millions de dollars.

We don't know what's in this,

On ignore leur contenu,

but it should be open and publicly available

mais elles devraient être ouvertes au public,

so that we can inspect and ensure [it supports] diverse norms and values.

pour inspection et s’assurer de leur conformité aux normes et valeurs.

So for this reason, my teams at UW and AI2

Ainsi, mes équipes à l’UW et à AI2

have been working on commonsense knowledge graphs

ont élaboré des graphes de connaissances du bon sens

as well as moral norm repositories

ainsi que des recueils de normes morales

to teach AI basic commonsense norms and morals.

pour inculquer à l’IA les normes et les valeurs morales élémentaires.

Nos données sont accessibles à tous, ce qui permet d’explorer leur contenu

Our data is fully open so that anybody can inspect the content

and make corrections as needed

et de corriger ce qui doit l’être,

because transparency is the key for such an important research topic.

car la transparence est essentielle pour une recherche aussi importante.

Now let's think about learning algorithms.

Passons aux algorithmes d’apprentissage.

No matter how amazing large language models are,

Quelle que soit la puissance des grands modèles de langage,

by design

par conception,

they may not be the best suited to serve as reliable knowledge models.

leur fiabilité en tant que modèles de connaissances pourrait être limitée.

And these language models do acquire a vast amount of knowledge,

Ces modèles de langage possèdent certes une grande masse de connaissances,

but they do so as a byproduct as opposed to direct learning objective.

mais ils l’ont acquises en sous-produit et non en objectif d’apprentissage direct.

Resulting in unwanted side effects such as hallucinated effects

Cela engendre des effets indésirables tels que les hallucinations

and lack of common sense.

et l’absence de bon sens.

Now, in contrast,

En revanche,

human learning is never about predicting which word comes next,

l’apprentissage humain va au-delà de la prédiction de mots,

but it's really about making sense of the world

il s’agit de comprendre le monde

et d’apprendre comment il fonctionne.

and learning how the world works.

Maybe AI should be taught that way as well.

On devrait peut-être aussi l’enseigner à l’IA.

So as a quest toward more direct commonsense knowledge acquisition,

Dans sa recherche d’une acquisition plus directe de connaissances

my team has been investigating potential new algorithms,

mon équipe explore de nouveaux algorithmes potentiels,

including symbolic knowledge distillation

y compris la distillation de connaissances symboliques

that can take a very large language model as shown here

qui prend un grand modèle de langage, comme illustré ici.

that I couldn't fit into the screen because it's too large,

trop grand pour être affiché à l’écran,

and crunch that down to much smaller commonsense models

et le réduit en des modèles de bon sens beaucoup plus petits

using deep neural networks.

à l’aide des réseaux neuronaux profonds.

And in doing so, we also generate, algorithmically, human-inspectable,

Ainsi, nous générons également, grâce à cet algorithme,

symbolic, commonsense knowledge representation,

une représentation symbolique des connaissances de bon sens,

so that people can inspect and make corrections

afin que les gens l’inspectent et la corrigent,

and even use it to train other neural commonsense models.

et s’en servent même pour entraîner d’autres modèles neuronaux de bon sens.

More broadly,

De manière plus générale,

we have been tackling this seemingly impossible giant puzzle

on s’est attaqué à ce puzzle géant apparemment impossible

of common sense, ranging from physical,

de bon sens, qui va de l’aspect physique,

social and visual common sense

social et visuel

à la théorie de l’esprit, aux normes et à la morale.

to theory of minds, norms and morals.

Each individual piece may seem quirky and incomplete,

Chaque élément individuel peut sembler étrange et incomplet,

but when you step back,

mais en prenant de la distance,

it's almost as if these pieces weave together into a tapestry

il semble que ces pièces s’entrelacent pour former une tapisserie

that we call human experience and common sense.

que nous appelons l’expérience humaine et le bon sens.

We're now entering a new era

On est à présent dans une nouvelle ère

in which AI is almost like a new intellectual species

où l’IA ressemble presque à une nouvelle forme d’intelligence

with unique strengths and weaknesses compared to humans.

avec des forces et des faiblesses uniques par rapport à l’homme.

In order to make this powerful AI

Pour que cette IA puissante

sustainable and humanistic,

soit durable et humaniste,

we need to teach AI common sense, norms and values.

on doit lui enseigner le bon sens, les normes et les valeurs

Thank you.

Je vous remercie.

(Applause)

(Applaudissements)

Chris Anderson: Look at that.

Chris Anderson : Regardez !

Yejin, please stay one sec.

Yejin, restez une seconde, s’il vous plaît.

This is so interesting,

C’est très intéressant,

this idea of common sense.

cette idée de bon sens.

We obviously all really want this from whatever's coming.

Quoi qu’il advienne, c’est notre objectif commun.

But help me understand.

Mais éclairez-moi.

Like, so we've had this model of a child learning.

Imaginons ce modèle d’apprentissage chez un enfant.

How does a child gain common sense

Comment un enfant acquiert-il du bon sens

apart from the accumulation of more input

en dehors de l’accumulation d’informations

and some, you know, human feedback?

et d’une certaine évaluation humaine ?

What else is there?

Qu’y a-t-il d’autre ?

Yejin Choi: So fundamentally, there are several things missing,

Yejin Choi : Fondamentalement, il manque plusieurs choses,

but one of them is, for example,

comme par exemple,

the ability to make hypothesis and make experiments,

la capacité de faire des hypothèses et des expériences,

interact with the world and develop this hypothesis.

d’intéragir avec le monde et de développer cette hypothèse.

We abstract away the concepts about how the world works,

On fait abstraction des concepts relatifs au fonctionnement du monde,

and then that's how we truly learn,

et c’est ainsi qu’on apprend vraiment,

as opposed to today's language model.

par rapport aux modèles de langage actuel.

Some of them is really not there quite yet.

Certains d’entre eux ne sont pas encore tout à fait au point.

CA: You use the analogy that we can’t get to the Moon

CA : Vous dites qu’on ne peut pas aller sur la Lune

by extending a building a foot at a time.

en agrandissant un bâtiment mètre par mètre.

But the experience that most of us have had

Mais notre expérience avec la plupart

of these language models is not a foot at a time.

de ces modèles de langage est loin d’être progressive

It's like, the sort of, breathtaking acceleration.

C’est plutôt une accélération stupéfiante.

Are you sure that given the pace at which those things are going,

Êtes-vous sûr qu’à la vitesse à laquelle les choses avancent,

each next level seems to be bringing with it

chaque nouveau niveau semble nous apporter un peu plus

what feels kind of like wisdom and knowledge.

de sagesse et de connaissance ?

YC: I totally agree that it's remarkable how much this scaling things up

YC : Il est frappant de voir à quel point cette accroissement de l’échelle

really enhances the performance across the board.

améliore vraiment les performances dans tous les aspects.

So there's real learning happening

Il se produit donc un réel apprentissage

due to the scale of the compute and data.

grâce à l’échelle de calcul et de données.

However, there's a quality of learning that is still not quite there.

Mais la qualité de l’apprentissage n’est pas toujours satisfaisante.

And the thing is,

En fait,

we don't yet know whether we can fully get there or not

on ne sait pas encore si on peut y parvenir

just by scaling things up.

en augmentant seulement l’échelle.

And if we cannot, then there's this question of what else?

Et si on n’y arrive pas, alors que faire d’autre ?

And then even if we could,

Même si nous le pouvons,

do we like this idea of having very, very extreme-scale AI models

l’idée d’avoir des modèles d’IA à échelle tout à fait extrême

that only a few can create and own?

que seuls quelques-uns peuvent créer et posséder nous convient-elle ?

CA: I mean, if OpenAI said, you know, "We're interested in your work,

CA : Je veux dire, si OpenAI disait, « Votre travail nous intéresse,

we would like you to help improve our model,"

nous aimerions votre aide pour améliorer notre modèle »,

can you see any way of combining what you're doing

voyez-vous un moyen de combiner ce que vous faites

with what they have built?

avec ce qu’ils ont construit ?

YC: Certainly what I envision

YC : J’imagine qu’il faudra

will need to build on the advancements of deep neural networks.

s’appuyer sur les progrès des réseaux neuronaux profonds.

And it might be that there’s some scale Goldilocks Zone,

Et il se peut qu’il y ait une zone à échelle Boucles d’or

such that ...

comme ça...

I'm not imagining that the smaller is the better either, by the way.

D’ailleurs, je n’imagine pas que plus petit signifie meilleur.

It's likely that there's right amount of scale, but beyond that,

Il y a une bonne quantité d’échelle, mais au-delà,

the winning recipe might be something else.

la recette gagnante pourrait être autre chose.

So some synthesis of ideas will be critical here.

Une synthèse d’idées sera donc critique ici.

CA: Yejin Choi, thank you so much for your talk.

CA : Yejin Choi, merci pour votre exposé.

(Applause)

(Applaudissements)